Sign In
에듀테크 오늘

GPT API 기반 AI 챗봇, 초등학생도 안전하게 사용할 수 있을까?

C
Contenjoo
Last modified
Date
Empty
•
GPT API를 사용하는 인공지능 챗봇은 초등에서는 사용을 하면 안된다는 이야기가 나오고 있습니다.
•
OpenAI가 ChatGPT를 만 13세 미만 사용을 금지 했기에, 똑같지 않나요? 같은 GPT 인데
최근 교육자분들 사이에서 이러한 이야기가 나오고 있다고하여, 정리하는 글을 써봤습니다.
요약
1.
GPT API 사용 AI 챗봇과 ChatGPT의 연령 제한
• OpenAI는 ChatGPT와 GPT API 모두 13세 미만 사용을 제한
• 그러나 GPT API를 사용하는 다른 서비스들은 상황이 다를 수 있음
2.
GPT API 사용 서비스의 차별성
• API 사용 기업들은 자체적인 안전장치와 규제 준수 의무가 있음
• COPPA, GDPR, FERPA 등 관련 법규 준수 필요
• 교육용 서비스의 경우 CSPC 등 추가 인증으로 안전성 강화 가능
3.
초등학생 사용에 대한 우려사항
• 부적절한 콘텐츠 노출 가능성
• 개인정보 보호 문제
• 연령에 맞지 않는 정보 제공 우려
4.
안전한 사용을 위한 권장사항
• 법적 검증과 인증을 받은 교육용 AI 서비스 선택
• 부모나 교육자의 감독 하에 사용
• 연령에 적합한 콘텐츠 필터링이 된 서비스 활용
• AI 윤리와 안전한 사용법에 대한 교육 병행
결론적으로, GPT API를 사용하는 모든 서비스가 초등학생에게 부적합한 것은 아닙니다. 적절한 안전장치와 규제 준수를 갖춘 교육용 AI 서비스는 초등학생들에게도 유익하게 활용될 수 있습니다. 중요한 것은 서비스의 안전성을 확인하고, 적절한 감독과 교육을 병행하는 것입니다.

사실

한국어:
"(c) 13세 미만 또는 디지털 동의 연령에 해당하는 아동의 개인 정보를 보내지 않으며, 부모나 보호자의 동의 없이 미성년자가 서비스를 사용하도록 허용해서는 안 됩니다."
영어 원문:
"(c) send us any personal information of children under 13 or the applicable age of digital consent or allow minors to use our Services without consent from their parent or guardian;"
한국어:
"최소 연령. 서비스를 사용하려면 최소한 13세 이상이어야 하며, 사용자가 18세 미만인 경우 부모나 법적 보호자의 허락을 받아야 합니다."
영어 원문:
"Minimum age. You must be at least 13 years old or the minimum age required in your country to consent to use the Services. If you are under 18 you must have your parent or legal guardian’s permission to use the Services."
한국어:
"6. 아동
우리 서비스는 13세 미만의 아동을 대상으로 하지 않습니다. OpenAI는 13세 미만 아동의 개인 정보를 고의로 수집하지 않습니다. 만약 13세 미만의 아동이 서비스를 통해 OpenAI에 개인 정보를 제공했다고 생각되는 경우, legal@openai.com으로 이메일을 보내주시기 바랍니다. 우리는 해당 알림을 조사하고 적절한 경우 시스템에서 해당 개인 정보를 삭제할 것입니다. 만약 사용자가 13세 이상 18세 미만이라면, 서비스 이용을 위해 부모나 보호자의 허락을 받아야 합니다."
영어 원문:
"6. Children
Our Service is not directed to children under the age of 13. OpenAI does not knowingly collect Personal Information from children under the age of 13. If you have reason to believe that a child under the age of 13 has provided Personal Information to OpenAI through the Service, please email us at legal@openai.com. We will investigate any notification and if appropriate, delete the Personal Information from our systems. If you are 13 or older, but under 18, you must have permission from your parent or guardian to use our Services."

종합 정리

1.
13세 미만의 아동:
•
비즈니스 이용 약관 및 개인정보 보호 정책에 따라 13세 미만의 아동의 개인 정보를 제공해서는 안 됩니다.
•
개인정보 보호 정책에 따라 13세 미만의 아동이 서비스를 사용할 수 없으며, 의심되는 경우 해당 정보를 삭제합니다.
2.
13세 이상 18세 미만의 미성년자:
•
개인용 서비스 이용 약관 및 개인정보 보호 정책에 따라 부모나 보호자의 동의를 받아야 서비스를 이용할 수 있습니다.
이러한 규정들은 미성년자의 개인정보 보호와 안전을 보장하기 위한 조치입니다. 부모나 법적 보호자의 동의 없이 미성년자가 서비스를 이용하지 않도록 하는 것이 기본 원칙입니다.
요약을 하자면 OpenAI의 모든 약관에는 미성년자의 개인정보 보호에 의한 이유만 나와있습니다. 틀린점이있다면 댓글 달아주시면 수정 하겠습니다.
그럼
•
부적절한 콘텐츠 노출 방지
•
청소년 사용 안전
이러한 이야기는 어디에서 나왔을까요?
OpenAI도 콘텐츠의 윤리적인 생성과 윤리적 AI개발을 위해 노력을 하고 있습니다. 바람직하지 않은 콘텐츠의 생성을 제한 하기 위한 조치를 취했지만, 모두에게 적합하지 않은 결과물을 생성을 할 수 있기에, 염두하라고 나와있기도 합니다.
그러나 OpenAI가 하는 현재의 노력들은 전 연령을 포함하는 노력들입니다. 즉 그 외의 이야기들은 이러한 약관과 노력 그리고 다양한 주관이 합쳐진 글 들입니다.
OpenAI가 만13세 미만 사용을 금지하는 가장 큰 이유는 바로 미국의 아동 온라인 개인정보 보호법(COPPA)입니다. 이 법률은 13세 미만 아동의 개인정보 수집을 엄격히 제한하고 있습니다.
개발자 가이드라인: OpenAI는 개발자들에게 안전 모범 사례와 콘텐츠 조정 도구를 제공하여 연령 제한을 포함한 정책 준수를 돕고 있습니다
모니터링 및 제재: OpenAI는 자동화된 시스템, 인적 검토, 사용자 신고 등을 통해 정책 위반을 모니터링하고 있으며, 위반 시 조치를 취할 수 있습니다
그러면서 요구 하는 주요 내용을 보면
1.
API를 통해 전송되는 데이터는 암호화 되어야 함
2.
API 사용기업들은 자체적인 연령 확인, 안전 조치, 부모 동의 절차, 개인정보 보호 정책 구현 해야 함
3.
콘텐츠 모더레이션: 부적절하거나 유해한 콘텐츠를 필터링하기 위해 OpenAI의 모더레이션 API를 사용하는 것이 권장
4.
법규 준수: 해당 지역의 모든 관련 법규를 준수
그렇기에 GPT API를 사용하는 기업들은 법적 규제 준수를 하게 되고, 이를 검증하기위해서
COPPA,GDPR.FERPA 를 검증 받게 됩니다.
1.
COPPA (Children's Online Privacy Protection Act)
•
미국의 연방법으로 13세 미만 아동의 온라인 개인정보를 보호합니다.
•
아동 대상 웹사이트나 온라인 서비스 운영자에게 적용됩니다.
•
부모의 동의 없이 아동의 개인정보를 수집하는 것을 금지합니다.
2.
GDPR (General Data Protection Regulation)
•
EU의 개인정보 보호법으로, 전 세계에서 가장 엄격한 데이터 보호 규정입니다.
•
EU 시민의 개인정보를 처리하는 모든 기업에 적용됩니다(EU 외 기업 포함).
•
개인의 데이터 권리를 강화하고, 기업의 데이터 처리 책임을 강조합니다.
3.
FERPA (Family Educational Rights and Privacy Act)
•
미국의 연방법으로 학생의 교육 기록 프라이버시를 보호합니다.
•
연방 기금을 받는 모든 교육 기관에 적용됩니다.
•
학부모에게 자녀의 교육 기록에 대한 접근 권한을 부여하고, 기록 공개에 대한 통제권을 줍니다.
이 법들은 모두 개인정보 보호를 목적으로 하지만, 각각 다른 대상과 범위를 가지고 있습니다.
위 외에도
CSPC(California Student Privacy Certified)는 iKeepSafe에서 제공하는 중요한 학생 개인정보 보호 인증입니다. 주요 특징은 다음과 같습니다:
1.
목적: 학교에서 사용되는 웹사이트와 온라인 서비스의 학생 데이터 프라이버시를 보호합니다.
2.
기반: FERPA 평가와 COPPA Safe Harbor를 토대로 합니다.
3.
적용 범위: 연방법과 캘리포니아 주법의 학생 데이터 프라이버시 규정을 포함합니다.
4.
대상: 학교에서 전체 또는 부분적으로 사용되는 웹사이트와 온라인 서비스 운영자 및 제공자에게 권장됩니다.
5.
의의: 이 인증을 받은 기업은 학생 프라이버시 보호에 선도적인 역할을 한다는 것을 의미합니다.
6.
신뢰성: 학부모, 학생, 학교에 해당 기술이 학생 데이터를 안전하게 다룬다는 신뢰를 줍니다.
7.
준수 사항: 명확한 개인정보 처리방침, 데이터 수집 최소화, 보안 조치 등 다양한 요구사항을 포함합니다.
등 도 있습니다. 아직 대한민국은 이러한 인증제도가 없지만, 해외 에듀테크들은 이러한 인증을 통해, 자신들이 어떻게 청소년을 보호하고있는지 검증을 받게 됩니다.
만약 이 인증을 받고 지키지 않는다면
법적 제재가 이루어 집니다.
•
FTC(연방거래위원회)는 위반 건당 최대 $50,120의 민사 벌금을 부과할 수 있습니다.
•
위반 사항이 여러 건이거나 지속적일 경우 벌금이 누적되어 수백만 달러에 이를 수 있습니다.
COPPA를 위반으로 인한, 법적 사례들입니다.
1.
YouTube와 Google (2019년)
•
위반 내용: 13세 미만 아동의 개인정보를 부모 동의 없이 수집하고 광고에 활용
•
결과: 1억 7천만 달러의 벌금 부과 (FTC 역사상 최대 COPPA 관련 벌금)
2.
TikTok (구 Musical.ly) (2019년)
•
위반 내용: 13세 미만 사용자의 개인정보 수집 및 부모 동의 없이 공개 프로필 생성 허용
•
결과: 570만 달러 벌금 부과
3.
Microsoft (2023년)
•
위반 내용: Xbox 게임 서비스에서 13세 미만 아동의 개인정보를 부모 동의 없이 수집
•
결과: 2천만 달러 벌금 부과
4.
Amazon (2023년)
•
위반 내용: Alexa 음성 비서 서비스에서 아동의 음성 데이터와 위치 정보를 부적절하게 보유
•
결과: 2,500만 달러 벌금 부과
5.
Epic Games (Fortnite 제작사) (2022년)
•
위반 내용: 13세 미만 사용자의 개인정보 수집, 부적절한 기본 설정으로 아동 프라이버시 침해
•
결과: 2억 7,500만 달러의 벌금 부과 (COPPA 위반 관련 최대 벌금)
6.
Edmodo (2023년)
•
위반 내용: 교육용 플랫폼에서 13세 미만 학생들의 개인정보를 부적절하게 수집 및 광고에 활용
•
결과: 600만 달러 벌금 부과 (회사의 지불 능력 부족으로 인해 집행 유예)
위와 같이 글로벌 기업들도 COPPA나 기타 개인정보 보호법을 지키지 않으면, 벌금을 받는데, 이 보다 작은 기업들은 회사의 존재를 걸고 지켜야 할 것 같습니다
ChatGPT외 다른 인공지능을 살펴보면
1.
Google Gemini:
•
기본적으로 Google의 서비스 이용 약관에 따라 18세 이상 사용자를 대상으로 합니다.
•
그러나 최근 교육 목적으로 연령 제한을 완화하여, Google Workspace for Education 계정을 통해 13세 이상의 학생들도 접근할 수 있게 되었습니다.
•
이는 미국을 포함한 100개 이상의 국가에서 영어로 제공되며, 다른 국가에서는 해당 국가의 최소 연령 요구사항이 적용됩니다.
💬
추가
대상 확대:
• 미국 내 학생들이 Google Workspace for Education 계정으로 Gemini 사용 가능
• 이전에는 18세 이상 학생들만 학교 계정으로 접근 가능했음
국제적 확장:
• 미국 외 100개 이상 국가의 십대 학생들도 영어로 Gemini 이용 가능
연령 제한:
• 미국 외 국가에서는 해당 국가의 최소 연령 요구사항 적용 (대한민국 14세)
교육 목적 강조:
• Google Workspace for Education 계정을 통해 제공되어 교육적 사용에 초점
연령확인: https://support.google.com/gemini/answer/13278668?hl=en
2.
Claude:
•
Claude는 18세 이상 사용자만 이용할 수 있습니다.
•
Claude는 아동을 대상으로 설계되지 않았으며, 대화를 통해 사용자의 나이를 확인할 수 있는 기능이 없습니다.
두 AI 서비스 모두 연령 제한을 두고 있으며, 특히 미성년자의 사용에 대해 주의를 기울이고 있습니다. Google Gemini의 경우 교육 목적으로 제한적으로 연령 제한을 낮추었지만, 여전히 안전과 개인정보 보호에 중점을 두고 있습니다. Claude는 더 엄격한 연령 제한을 유지하고 있어, 성인만 사용할 수 있습니다.
따라서, 13세 미만 사용자의 AI 사용이 우려된다면, 이러한 법적 검증과 인증을 받은 서비스를 우선적으로 고려하는 것이 안전합니다. 또한 이러한 서비스들은 자체적으로 콘텐츠 필터링 및 모더레이션 API를 사용을 하고 있어,
교육목적으로 더 안전한 사용이 가능합니다.
Subscribe to '오늘배움'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to '오늘배움'!
Subscribe
6
👍
김
김정준 코치
Gemini의 경우 Gemini for Education은 18세 이상만 가능합니다. Gemini for Student가 14세 이상용으로 올해 안에 나올거 같습니다.
👍
2
T
TV_코난쌤__코난쌤TV
perplexity는 로그인없이 사용하는 경우 연령 제한이 없습니다(개인정보를 수집하지 않기 때문) 마찬가지라면 chatgpt도 로그인 없이 사용하는 경우 연령 제한을 두지 않아도 되지 않을까요?
C
Contenjoo
퍼플렉시티는 만13세 이상이라고 오늘 엔터프라이즈 학교 할인 블로그에 나오더라고요.
T
TV_코난쌤__코난쌤TV
네 로그인시에 그렇다고해요. 저는 이메일링으로 답변 받았습니다
C
Contenjoo
퍼플렉시티는 처음에 연령제한 없다고 좋아했는데, 정리하면서 보니까 13세 이상 나와서 실망했는데..결국 개인정보 문제군요 ㅎ
👍
1
T
TV_코난쌤__코난쌤TV
그래서 혹시 chatgpt도 로그인 없이 쓰면 되지 않을까.. 조심스럽게 생각만 해봅니다. 아직 공식적인 답변은 못받았어요( 누구 받으신 분이 있으면 공유좀요)
See latest comments
문의:
T: 070-8648-1580
E: contenjoo@learntoday.co.kr