Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Academ-AI: documenting the undisclosed use of generative artificial intelligence in academic publishing

Created by
  • Haebom
Category
Empty

저자

Alex Glynn

개요

OpenAI의 ChatGPT와 같은 생성 AI 도구의 광범위한 사용 이후, 연구자들은 이를 글쓰기 과정에 활용하기 시작했습니다. 학계 출판 커뮤니티에서는 이러한 사용을 공개해야 한다는 합의가 이루어졌습니다. 본 논문은 학술 문헌에서 공개되지 않은 AI 사용 사례를 문서화하며, 특히 대규모 언어 모델(LLM) 기반 챗봇의 특징적인 표현이 연구 논문에 나타나는 것을 통해 이를 파악합니다. 분석된 768개의 사례는 문제가 광범위하게 퍼져 있으며, 높은 평판을 받는 출판사의 저널, 학회 논문집, 교과서까지 침투했음을 보여줍니다. 공개되지 않은 AI는 인용 지수가 높고, 논문 처리 비용(APC)이 높은 저널에서 더 자주 나타나는 경향을 보입니다. 게시 후 수정 사례는 매우 적으며, 수정 역시 문제를 완전히 해결하지 못하는 경우가 많습니다. 분석된 사례는 학술 문헌에 존재하는 공개되지 않은 AI의 극히 일부일 가능성이 높으며, 많은 부분이 감지되지 않을 수 있습니다. 출판사는 감지 가능한 경우 공개되지 않은 AI 사용에 대한 정책을 시행해야 하며, 이는 현재 학계 출판 커뮤니티가 공개되지 않은 AI 확산에 대응할 수 있는 최선의 방어 수단입니다.

시사점, 한계점

시사점:
생성 AI의 학술적 글쓰기 활용이 증가함에 따라, 공개되지 않은 AI 사용 문제가 심각하게 나타나고 있습니다.
문제는 학계에서 높은 평판을 받는 저널에서도 발생하며, 자원과 전문성을 갖춘 곳에서도 oversight가 발생합니다.
게시 후 수정이 드물고, 수정의 효과도 미미합니다.
출판사의 AI 사용 정책 시행이 중요합니다.
한계점:
분석된 768개의 사례는 전체 문제의 작은 부분일 뿐이며, 많은 사례가 감지되지 않을 수 있습니다.
현재 연구는 감지 가능한 사례에 한정되어 있어, AI 사용의 전체적인 규모를 파악하는 데 한계가 있습니다.
AI 사용 감지를 위한 구체적인 방법론과 기술적 한계가 존재합니다.
👍