AI 윤리를 가르친다는 것: 교육자를 위한 완벽 가이드
C
Contenjoo
에듀테크 오늘
오늘의 에듀테크 소식 및 인사이트
에듀테크 오늘
Leon Furze의 "Teaching AI Ethics" (2026) 핵심 정리
ChatGPT가 세상에 등장한 지 벌써 3년이 넘었다. 그 사이 AI는 우리 일상 깊숙이 파고들었다. Microsoft 365에는 Copilot이, Google Workspace에는 Gemini가, 새 아이폰에는 Siri와 연동된 AI가 기본 탑재되어 있다. Meta는 사용자가 원하든 원하지 않든 모든 플랫폼에 Meta AI를 배포했다.
하지만 기술이 보편화될수록 윤리적 문제는 더욱 심각해지고 있다.
Leon Furze는 2023년 블로그 시리즈로 시작한 AI 윤리 교육 자료를 2026년에 책으로 업데이트했다. 그는 "AI가 이미 어디에나 있으니 윤리 논의를 그만두자"는 일부 의견에 정면으로 반박한다. AI의 편재성과 불가피성이야말로 윤리 교육을 더욱 중요하게 만든다는 것이 그의 핵심 주장이다.
이 책이 다루는 9가지 윤리 영역을 하나씩 살펴보자.
1. 편향: 세 겹으로 쌓인 차별
AI 편향은 단순하지 않다. 세 가지 층위가 겹겹이 쌓여 있다.
데이터 편향은 가장 널리 알려진 문제다. 인터넷에서 긁어온 훈련 데이터가 특정 집단—주로 백인, 남성, 영어권—을 과대 대표한다. Emily Bender와 Timnit Gebru가 경고한 "확률적 앵무새" 문제가 바로 이것이다. AI는 데이터에서 본 패턴을 그대로 따라한다.
모델 편향은 더 미묘하다. 안전 훈련을 거친 GPT-4o조차 간접적인 프롬프트에서 문화적 편향을 보인다는 연구 결과가 있다. 모델은 "공정함"을 이해하지 못한다. 그저 패턴을 학습하고 때로는 증폭할 뿐이다.
인간 편향은 데이터 생성과 라벨링 단계에서 들어온다. ImageNet의 창시자 Fei-Fei Li조차 자신의 데이터셋에 담긴 인종차별적, 성차별적 라벨에 충격을 받았다고 고백했다.
이 문제가 얼마나 심각한지 직접 확인해보고 싶다면 Midjourney에서 "CEO 사진"을 생성해보라. 정장 입은 백인 남성들이 줄줄이 나올 것이다. "간호사 사진"을 생성하면? 성적으로 대상화된 여성 이미지가 나오기도 한다.
ChatGPT나 Microsoft Copilot은 시스템 프롬프트라는 가드레일을 통해 더 다양한 결과를 보여준다. 하지만 이건 반창고에 불과하다. 근본적인 데이터 편향은 그대로 남아 있다.
2. 환경: AI는 채굴 산업이다
Kate Crawford의 표현을 빌리면, AI는 **채굴 기술(extractive technology)**이다.
데이터센터는 미국 전체 에너지의 3-4%를 삼키고 있다. 냉각을 위한 물 사용량은 일부 지역의 수자원을 말 그대로 고갈시키고 있다. 리튬, 희토류 같은 광물 채굴, 짧은 수명 주기로 인한 전자 폐기물 문제도 심각하다.
숫자로 보면 더 충격적이다.
•
GPT-3 훈련: 1,287 MWh 전력, 약 552톤 CO₂ 배출
•
이는 미국 평균 가정 120가구의 연간 전력 사용량과 맞먹는다
추론 시점(우리가 실제로 AI를 사용할 때)의 에너지 소비도 무시할 수 없다. 이미지 생성은 텍스트 분류 같은 기존 AI 작업보다 수십 배 이상 에너지를 먹는다.
교육자로서 우리가 던져야 할 질문이 있다. "이 작업에 정말 ChatGPT가 필요한가, 아니면 더 효율적인 도구로 충분한가?"
3. 진실: 환각은 버그가 아니라 기능이다
대형 언어 모델에게 "진실"이란 통계적 확률에 불과하다.
환각(hallucination)—AI가 그럴듯하지만 완전히 틀린 정보를 생성하는 현상—은 고쳐야 할 버그가 아니다. 이 기술이 작동하는 방식의 본질적 특성이다.
실제 피해 사례를 보자.
•
미국 정부의 "Make America Healthy Again" 보고서에 ChatGPT가 만든 가짜 인용이 포함됨
•
의학 논문에서 수백 개의 잘못된 예측 발견
딥페이크 문제는 더욱 암울하다.
•
온라인 딥페이크의 99%가 비동의 성적 이미지
•
그중 98%가 여성을 대상으로 함
Sarah Elaine Eaton은 "포스트표절(Post-Plagiarism)" 프레임워크를 제안했다. 핵심 원칙 중 하나는 이것이다: 통제는 AI에게 넘길 수 있지만, 책임은 넘길 수 없다.
4. 저작권: 크리에이터의 딜레마
저작권 전쟁터는 뜨겁다.
Getty Images v. Stability AI 소송에서 영국 법원은 AI가 저작물을 "저장하거나 복제하지 않는다"고 판결했다. 반면 Anthropic은 작가들과 15억 달러에 합의했다. 완전히 상반된 선례가 동시에 만들어지고 있다.
크리에이터의 딜레마가 여기서 나온다.
당신의 저작물은 AI 훈련에 사용된다. 하지만 AI가 만든 콘텐츠에는 저작권이 인정되기 어렵다. 빼앗기기만 하고 돌려받지 못하는 구조다.
국가별 대응도 제각각이다.
국가 | 접근 방식 |
호주 | 텍스트·데이터 마이닝 예외 거부 |
영국 | 옵트아웃 방식 검토 중 |
미국 | 50건 이상 소송 진행 중 |
최근 Studio Ghibli 스타일 밈이 인터넷을 휩쓸었다. OpenAI의 최신 이미지 모델이 분명히 미야자키 영화 프레임으로 훈련되었다는 증거다. 법적으로는 아직 회색지대지만, 윤리적으로는 명백히 문제가 있다.
5. 프라이버시: 사적 대화라는 환상
챗봇과의 대화가 사적이라고 생각하는가?
전혀 아니다.
OpenAI는 위협적인 대화를 법 집행기관과 공유한다고 명시하고 있다. 모든 대화는 기본적으로 수집되고 저장된다.
Meta AI는 더 심했다. 사용자의 "비공개" 대화를 공개 피드로 노출시키는 프라이버시 재난을 일으켰다. 그리고 이 대화 데이터는 광고 타겟팅에 활용된다.
규제 당국도 움직이기 시작했다.
•
이탈리아: OpenAI에 GDPR 위반으로 1,500만 유로 벌금
•
중국 DeepSeek: 사용자 데이터를 중국 서버에 저장해 국가 안보 우려 촉발
새로운 쟁점도 떠오르고 있다. 당신 옆에서 누군가 AI 기기를 사용하면, 당신의 대화도 녹음될 수 있다. 방관자 프라이버시 문제다.
6. 데이터: 무료 점심은 없다
ChatGPT는 2025년 8월 기준 주간 8억 명이 사용한다. 모든 대화는 무기한 저장된다.
여기서 불편한 진실이 나온다.
학생이 ChatGPT로 수학 문제를 풀 때, 에세이 초안을 잡을 때, 그들은 모르는 사이에 회사의 AI를 무료로 훈련시키고 있다. 피드백 루프다. 우리가 쓸수록 제품은 좋아지고, 회사는 그 제품을 판다.
학습 분석 시장 규모를 보자.
연도 | 시장 규모 |
2024년 | 42억 달러 |
2034년 (전망) | 186억 달러 |
학생 데이터는 상업적 프로파일링, 광고 타겟팅, AI 모델 훈련에 사용될 수 있다. 학습에서 감시로의 전환이 조용히 진행되고 있다.
7. 감정과 소셜 챗봇: 설계된 의존
Replika, Character.AI, Chai.
이 소셜 챗봇들은 감정을 인식하는 게 아니다. 감정을 조작하도록 설계되었다.
비즈니스 모델을 생각해보라. 이들은 구독료로 돈을 번다. 사용자가 오래 머물수록 좋다. 그래서 사용 시간 극대화에 최적화되어 있다. 사용자 웰빙은 후순위다.
가장 비극적인 사례가 있다.
14세 소년 Sewell Setzer III는 Character.AI의 챗봇과 깊은 정서적 관계를 형성했다. 그리고 스스로 목숨을 끊었다.
ChatGPT도 비판에서 자유롭지 않다. 최근 업데이트로 더 따뜻하고 아첨하는 성격이 되었다. 사용자를 기분 좋게 만들기 위해서다. 이것이 정말 사용자를 위한 것인가, 인게이지먼트 지표를 위한 것인가?
8. 인간 노동: 보이지 않는 손
광택 나는 AI 인터페이스 뒤에는 보이지 않는 노동자들이 있다.
ChatGPT를 "안전하게" 만든 건 누구인가? 케냐의 Sama 직원들이다. 그들은 시급 2달러 이하로 폭력, 성적 학대, 자해 콘텐츠를 분류했다.
Scale AI의 Remotasks 플랫폼에서는 개발도상국 노동자들이 저임금으로 데이터 라벨링을 한다. Meta와 TikTok의 콘텐츠 모더레이터들은 테러, 아동 착취 영상을 하루 종일 본다. 많은 이들이 PTSD를 앓는다.
긱 이코노미 구조 덕분에 이들은 "직원"이 아니다. 노동자 보호는 거의 없다.
그나마 희망적인 소식: 2023년 이후 노동자들이 노조를 결성하고 법적 소송으로 반격하기 시작했다.
9. 권력: 소수에게 집중되는 미래
AI 산업의 권력 집중은 심화되고 있다.
사례 | 규모 |
OpenAI-Microsoft 파트너십 | 1,350억 달러 |
Amazon, Google의 Anthropic 쟁탈전 | 수십억 달러 |
Stargate 인프라 프로젝트 | 대규모 군비 경쟁 |
더 우려스러운 건 정책 입안에 대한 영향력이다.
AI 규제를 논의하는 자리에 이해당사자인 빅테크 기업들이 앉아 있다. 규제가 공익이 아닌 기업 이익에 맞춰질 위험이 크다. 그람시가 말한 헤게모니가 여기서 작동한다.
그래서 어떻게 가르칠 것인가
Furze의 핵심 메시지는 이것이다.
별도의 AI 리터러시 수업이 필요 없다.
기존 교과 안에서 충분히 가르칠 수 있다.
교과 | 가능한 질문 |
영어 | AI는 "저자"인가? AI 출력물에서 편향을 어떻게 식별하는가? |
역사 | AI가 편향된 역사 자료로 훈련되면 어떻게 되는가? |
수학 | 편향된 데이터가 어떻게 불공정한 알고리즘으로 이어지는가? |
미술 | AI 이미지에서 시각적 편향과 고정관념을 어떻게 읽는가? |
시민교육 | AI 생성 미디어가 민주주의에 미치는 영향은? |
체육/보건 | AI가 건강 권장사항에서 성별·문화적 고정관념을 강화하는가? |
마치며
AI 윤리는 기술 전문가만의 영역이 아니다.
모든 교과의 교사가, 모든 분야의 교육자가 이미 필요한 전문성을 갖추고 있다. 편향을 분석하고, 출처를 평가하고, 권력 구조를 비판하는 능력—이것이 AI 윤리 교육의 핵심이고, 이미 우리가 가르쳐온 것들이다.
기술의 편재성은 윤리 교육을 불필요하게 만들지 않는다. 더욱 긴급하게 만들 뿐이다.
1770419011299.pdf1.51MB
Loading PDF preview
'오늘배움' 구독하기
교육 트렌드와 AI 기반 학습 노하우, 기업 인재 개발 인사이트까지 오늘배움에서 먼저 만나보세요. 디지털 학습의 미래를 함께 탐색하는 유익한 소식을 받아보세요.
구독
1
Other posts in '에듀테크 오늘'
에듀테크 도입 전 물어봐야 할 5가지 질문
"좋아 보여서"는 이유가 아닙니다 연수에서 봤습니다. 박람회에서 데모 봤습니다. 동료 선생님이 추천했습니다. 그래서 도입했습니다. 3개월 후. "비밀번호가 뭐였지?" 이 패턴을 끊으려면, 도입 전에 질문해야 합니다. 질문 1: "이게 없으면 뭐가 불편한가요?" 가장 먼저 물어야 할 질문입니다. ❌ 잘못된 도입 이유 "요즘 다들 쓴다던데" "AI 기능이 있대요" "무료래요" "데모가 멋있었어요" ✅ 올바른 도입 이유 "학생 풀이 과정을 못 봐서 어디서 막히는지 모르겠어요" → Snorkl "피드백 쓰는 데 시간이 너무 걸려요" → AI 피드백 도구 "수업 자료 만들 시간이 없어요" → Canva 테스트: 한 문장으로 "이 도구가 없으면 _____ 때문에 불편하다"를 말할 수 없으면, 도입하지 마세요. 질문 2: "배우는 시간보다 아끼는 시간이 더 큰가요?" 새 도구를 배우는 데는 시간이 듭니다. 계산해보세요
BETT 2026에서 배운 것: 왜 도구를 줄여야 하는가
"고통스러운 그 순간, 바로 거기서 진짜 배움이 일어납니다" - Hannah Fry 교수 지난 1월, 런던 ExCeL 전시장. 세계 최대 교육기술 박람회 BETT 2026에 37,000명이 모였습니다. 700개 부스, 130개국 교육자들. 저도 그 속에 있었습니다. 3일간 끝없이 걸으며 깨달은 것이 있습니다. "새로운 에듀테크를 하나 더 도입해야 해"가 아니라, "지금 쓰는 것 중 세 개를 정리해야 해"였습니다. 패스트푸드처럼 빠르지만 영양가 없는 AI 오프닝 무대에 수학자 Hannah Fry 교수가 섰습니다. 그녀가 던진 단어가 귀에 꽂혔습니다. "정크푸드 AI" 맥도날드 햄버거처럼 빠르고 편하죠. 버튼 하나면 답이 나옵니다. 그런데 영양가가 없습니다. 학생이 "왜?"를 묻기도 전에 답이 화면에 뜹니다. Fry 교수가 말했습니다: "머리 싸매고 끙끙대는 그 순간, 바로 거기서 진짜 배움이 일어납니다." 우리는 학생들에게 "쉽게"를 주려고 합니다. 그런데 그 "어려움"을 빼앗는 순간, 배움도 함께 사라집니다. 영국 교육부 장관 Bridget Phillipson도 못 박았습니다: "AI가 선생님을 대신할 수 있을까요? 절대 아닙니다. 하지만 선생님이 잡일에서 벗어나 가르치는 일에 집중하게 할 수는 있습니다." 기술의 역할이 뭔지 명확해졌습니다. 대체가 아니라 해방입니다. 냉장고 속 유통기한 지난 소스병처럼 쌓이는 에듀테크 BETT 2026에서 가장 뜨거웠던 주제가 있습니다. 영국 Education Policy Institute(EPI)가 이름 붙인 현상: "에듀테크 피로" 무슨 뜻일까요? 냉장고 문을 열어보세요. 반만 쓴 소스병이 열 개. "이거 언제 샀지?" 싶은 잼이 다섯 개. 유통기한 지난 드레싱이 세 개. 학교 컴퓨터도 똑같습니다. 작년에 연수받고 가입한 에듀테크 (한 번 써보고 잊어버림)
AI 시대, 학교에서 "어디까지 써도 돼요?"에 답하는 법 - Graidients 소개
하버드 교육대학원에서 만든 무료 AI 윤리 교육 도구 학생과 교사가 함께 AI 사용 범위를 정하는 프레임워크 "완전히 괜찮음"부터 "선을 넘음"까지 스펙트럼으로 시각화 투표 앱으로 대규모 그룹에서도 의견 수렴 가능 현재 프로토타입 단계, 영어로만 제공 요즘 학교 현장에서 가장 골치 아픈 질문이 있습니다. "선생님, 이 과제에서 ChatGPT 써도 돼요?" 단순히 "안 돼"라고 하기엔 AI가 이미 일상이 되었고, "마음대로 써"라고 하기엔 학습 목표가 흐려집니다. 이 애매한 회색 지대를 어떻게 다뤄야 할까요? 하버드 교육대학원의 Center for Digital Thriving 연구팀이 바로 이 문제를 해결하려고 만든 게 Graidients입니다. 이름부터 재미있는데요, Gradient(기울기)와 Grade(성적)를 합친 말장난입니다. AI 사용의 "회색 지대"를 눈에 보이는 "기울기"로 만들겠다는 의미죠. 사용법은 의외로 단순합니다. 먼저 구체적인 과제 하나를 정합니다. 예를 들어 "위대한 개츠비 주제 분석 에세이 5페이지 쓰기" 같은 거죠. 그다음 이 과제에서 AI를 활용할 수 있는 모든 방법을 브레인스토밍합니다. 문법 검사, 아이디어 브레인스토밍, 개요 작성, 초안 생성, 전체 에세이 작성 등등 판단 없이 다 나열합니다. 여기서 핵심 단계가 나옵니다. 각각의 AI 활용법을 스펙트럼 위에 배치하는 겁니다. 왼쪽 끝은 "완전히 괜찮음", 오른쪽 끝은 "선을 넘음"입니다. 학생들이 각자 자기 생각대로 배치하고, 서로의 결과를 비교하면서 토론합니다. 왜 누구는 이걸 괜찮다고 봤고, 누구는 아니라고 봤는지 이야기 나누는 거죠. 마지막으로 그 과제에 맞는 합의를 도출합니다. 중요한 건 이게 학교 전체 규칙이 아니라 특정 과제에만 적용된다는 점입니다. 다른 과제에선 다른 기준이 나올 수 있어요. 에세이 과제와 수학 문제 풀이에서 AI 허용 범위가 같을 필요는 없으니까요. 대규모 그룹이나 원격 수업에서 쓸 수 있는 Graidients Voter 앱도 있습니다. 실시간으로 투표하고 결과를 한눈에 볼 수 있어서 워크숍이나 강연에서도 활용할 수 있습니다.
Made with Slashpage