해봄의 아카이브

인공지능으로 작성한 것을 인공지능이 잡을 수 있는가?

Haebom
조지아 북부 대학교(University of North Georgia)의 Human Services Delivery and Administration (B.S.) 전공을 하고 있는 대학 3학년생 마를리 스티븐스(21)는 자신이 제출한 과제를 교정하기 위해 웹 브라우저 확장 프로그램인 Grammarly를 사용했습니다.
💬
Grammarly는 영문 철자, 문법 등을 교정해주는 서비스로 최근 인공지능을 통한 첨삭 기능을 선보였습니다. 개인적으로 수년째 잘 쓰고 있는 서비스 입니다. (강력 추천)
그리고, 몇 일 후 담당 교수에게 메일을 받았는데 해당 메일에는 스티븐스가 제출한 과제는 인공지능으로 생성된 것으로 판명되었으며, 이에 따라 해당 과제는 0점 처리 그리고 해당 과목은 낙제처리가 된다는 일방적 통보였습니다. 쉽게 말해 부정행위를 저질렀다고 징계를 내린거죠.
스티븐스 입장은 무척 억울하다고 합니다. 그녀는 자신이 이전에 학점(GPA)를 3.0 이상을 계속 유지한 학생이고 이번 과제에 많은 시간을 사용했으며 Grammarly를 통해 구두점 및 철자 수정만 했다고 항변했습니다. 물론, 교수는 이 주장을 무시했습니다.
스티븐스의 Tiktok, 교수에게 받은 메일을 공개하며 억울함을 호소 중...
여기서 스티븐스는 Tiktok을 통해 자신이 처한 상황을 알리며 부당한 징계에 대한 철회를 요구하는 영상을 찍고 Grammarly 본사 측에 도움을 요청했습니다. Grammarly 측은 "철자, 문법 정확성, 명료성, 간결성, 그리고 어조에 대한 제안은 생성 AI에 의해 구동되지 않는다."고 바로 호응했고 인공지능 생성 콘텐츠를 감지하는 일부 도구들의 정확도가 100%가 아니라고 첨언했습니다.
교수도 가만히 있을 수 없었는지, 자신은 표절 방지 소프트웨어 TurnItIn.com를 사용했으며 이미 내려진 징계에 대해 철회할 생각이 없다고 재차 강조했습니다. 뭐, 일단 스티븐스는 장학금 명단에서 제외되고, 징계를 받는 절차가 진행되었습니다.
사실 국내외의 다양한 인공지능 생성 콘텐츠 탐지 서비스를 내놓고 있습니다. 원리를 아시는 분들은 아시겠지만 이것은 상당히 부정확 합니다. 어디까지나 확률적으로 생성AI로 만든 콘텐츠라고 표시는 할 수 있지만 인간이 직접했다고 우기면 사실 밝혀낼 방법이 그렇게 많진 않습니다. 이 콘텐츠를 만드는 모든 과정을 감시하거나 워터마크 등이 달리지 않는 이상 이것은 더욱 그러겠죠. 이번 사건은 각 사용 툴이 공개되면서 TurnItIn VS Grammarly의 양상으로도 보여 주목해볼만 합니다. (창과 방패의 대결이랄까...)
진실공방이야 교수와 학생이 치열한 다툼을 진행하겠지만 이번 사건은 인공지능으로 생성된 창작물이 과연 학술적으로 어디까지 받아드려져야 하는가 그리고 어떻게 이것을 찾아낼 것인가에 대한 중요한 논의의 가장 표면적으로 드러난 사건이기도 합니다.
최근 학계에서 다양한 어뷰징 사례가 있고 실제로 그렇게 하는 경우도 많기에 이것을 어떻게 잡고 도망칠 것이냐도 사실 재밌게 볼 부분 같습니다. 개인적으로는 이렇게 잡고 도망가는 과정에서 또 기술이나 방식의 발전이 일어난다고 생각해서... 그리고 읽다보면 생성형 말투?가 있긴한데 이런 것도 사실 몇 년 내에 차이가 없어질 것 같아 말투나 패턴으로 잡아내는 것은 다소 무리가 있어 보이고 작성 시간이나 과정을 통해 잡아내는 방법이 있을 텐데 이것은 개인의 프라이버시와 보안의 문제가 있으니 난제라 할 수 있겠습니다.
Subscribe to 'haebom'
📚 Haebom의 아카이브에 오신 걸 환영합니다.
---
IT 💻, 경제 💰, 인문학 🎭을 관련 된 글을 올립니다.
제 생각과 관점 혹은 관심사가 궁금하시면 구독해주세요.
haebom@kakao.com
Subscribe
2
D
David
몇 일 → 며칠
👍
1
3
35pr2J
dasdas
❤️
2
😌
2
👍
2
See latest comments