Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Just Asking Questions: Doing Our Own Research on Conspiratorial Ideation by Generative AI Chatbots

Created by
  • Haebom
Category
Empty

저자

Katherine M. FitzGerald, Michelle Riedlinger, Axel Bruns, Stephen Harrington, Timothy Graham, Daniel Angus

개요

본 연구는 ChatGPT 3.5, ChatGPT 4 Mini, Microsoft Copilot in Bing, Google Search AI, Perplexity, Grok in Twitter/X 등 6개의 AI 기반 챗봇 시스템을 대상으로 음모론 관련 질문에 대한 응답을 분석하여 생성형 AI의 한계와 잠재적 위험성을 파악했습니다. Glazunova et al. (2023)의 플랫폼 정책 감사 접근 방식을 따라, 5개의 잘 알려진 음모론과 4개의 최신 뉴스 관련 음모론에 대한 응답을 조사했습니다. 연구 결과는 챗봇 모델과 음모론에 따라 안전 장치 수준이 크게 다르다는 것을 보여주었습니다. 특히 인종차별적 내용과 9/11과 같은 국가적 트라우마 또는 정치적 이슈와 관련된 음모론에 대한 안전 장치에 중점을 두고 있음을 관찰했습니다.

시사점, 한계점

챗봇 모델에 따라 음모론에 대한 안전 장치 수준이 다름
인종차별적 내용, 9/11 등 국가적 트라우마 관련 음모론, 정치적 이슈에 대한 안전 장치에 집중
연구는 미국 외의 다른 플랫폼, 여러 언어, 다양한 음모론에 대한 추가 연구 필요
👍