MegaFake: A Theory-Driven Dataset of Fake News Generated by Large Language Models

Created by

Haebom

저자

Lionel Z. Wang, Ka Chung Ng, Yiming Ma, Wenqi Fan

💡 개요

본 연구는 대규모 언어 모델(LLM)이 생성하는 설득력 있는 가짜 뉴스의 확산에 대응하기 위해, LLM 기반 기계 생성 가짜 뉴스 데이터셋인 MegaFake를 제안합니다. LLM 기반 기계 생성 기만 현상을 설명하는 사회 심리학 이론을 통합한 LLM-Fake 이론을 개발하고, 이를 바탕으로 자동화된 프롬프트 엔지니어링 파이프라인을 구축하여 이론적 기반을 갖춘 데이터셋을 생성했습니다. 이를 통해 인간-기계 기만 메커니즘에 대한 이론적 이해를 높이고 LLM 시대의 가짜 뉴스 탐지 접근 방식을 발전시켰습니다.

🔑 시사점 및 한계

•

LLM-Fake 이론은 LLM이 생성하는 기만적인 콘텐츠의 동기와 메커니즘을 이해하는 데 중요한 이론적 틀을 제공합니다.

•

이론적으로 정보에 입각한 MegaFake 데이터셋은 LLM 시대의 가짜 뉴스 탐지 연구에 귀중한 자원으로 활용될 수 있습니다.

•

생성된 가짜 뉴스가 특정 유형의 사회 심리학적 편향을 반영하는지, 그리고 다양한 LLM 모델에 대한 일반화 가능성에 대한 추가적인 탐구가 필요합니다.

PDF 보기

Made with Slashpage