Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Measuring Algorithmic Partisanship via Zero-Shot Classification and Its Implications on Political Discourse

Created by
  • Haebom

저자

Nathan Junzi Chen

개요

생성형 인공지능(GAI)의 급속한 발전으로 지능형 시스템이 정치 담론을 지배하게 되었지만, 훈련 데이터 편향, 인간의 편견, 알고리즘 결함으로 인해 내재된 정치적 편향이 지속적으로 발생한다. 본 연구는 6개의 주류 대규모 언어 모델(LLM)에서 생성된 1800개의 모델 응답을 대상으로, 이념적 정렬, 주제 적합성, 응답 감성, 객관성을 측정하는 4가지 분류 알고리즘을 사용하여 알고리즘의 정치적 편향성을 평가하는 제로샷 분류 접근 방식을 사용했다. 연구 결과, 평가된 6개의 LLM에서 자유주의-권위주의적 정렬이 증폭되었으며, 추론 대체 및 고정된 거절의 사례가 나타났다.

시사점, 한계점

시사점:
LLM의 정치적 편향성 평가를 위한 제로샷 분류 접근 방식 제시
LLM의 자유주의-권위주의적 편향성 확인
인간-컴퓨터 상호작용의 심리적 영향과 편향이 공론장에 미치는 영향 강조
한계점:
평가에 사용된 LLM의 수가 제한적임
특정 분류 알고리즘에 의존적임
지역의 사회-정치적 구조에 따른 결과 왜곡 가능성
👍