Sign In

Beyond Misinformation: A Conceptual Framework for Studying AI Hallucinations in (Science) Communication

Created by
  • Haebom
Category
Empty

저자

Anqi Shao

개요

본 논문은 생성형 AI 시스템이 의도 없이 생성하는 허위 정보인 AI 환각을, 기존의 인간 의도에 초점을 맞춘 잘못된 정보 연구와는 별개의 현상으로 이해하기 위한 개념적 틀을 제시합니다. AI 환각을 단순한 기술적 실패가 아닌 사회적 결과를 초래하는 의사소통 현상으로 규정하고, 수요-공급 모델과 분산된 행위자 개념을 활용하여 인간이 생성한 잘못된 정보와의 차이점(생산, 인식, 제도적 대응)을 설명합니다. 마지막으로, 매크로(제도적), 메조(집단적), 마이크로(개인적) 수준에서 환각 콘텐츠의 출현, 확산, 청중 수용에 대한 연구를 위한 의사소통 학자들을 위한 연구 과제를 제시하며, 점점 더 지식 생산에 통합되는 확률적 비인간 행위자들을 고려하여 잘못된 정보 이론의 경계를 재고할 것을 촉구합니다.

시사점, 한계점

시사점:
AI 환각을 기존의 잘못된 정보 연구 틀을 넘어선 독립적인 의사소통 현상으로 이해해야 함을 제시.
수요-공급 모델과 분산된 행위자 개념을 활용하여 AI 환각의 특징을 체계적으로 분석.
매크로, 메조, 마이크로 수준의 다층적 연구 접근 방식 제시.
의사소통 연구자들에게 AI 환각에 대한 연구의 필요성을 강조.
잘못된 정보 이론에 대한 재고를 촉구하며, 비인간 행위자의 역할을 강조.
한계점:
제시된 개념적 틀의 실증적 검증이 부족.
AI 환각의 다양한 유형과 그에 따른 사회적 영향에 대한 구체적인 분석이 부족.
연구 과제 제시는 있으나, 구체적인 연구 방법론 제시는 부족.
제도적 대응에 대한 논의가 다소 부족.
👍