Political Neutrality in AI Is Impossible- But Here Is How to Approximate It
Created by
Haebom
저자
Jillian Fisher, Ruth E. Appel, Chan Young Park, Yujin Potter, Liwei Jiang, Taylor Sorensen, Shangbin Feng, Yulia Tsvetkov, Margaret E. Roberts, Jennifer Pan, Dawn Song, Yejin Choi
개요
본 논문은 AI 시스템의 정치적 편향이 사용자의 의견과 결정에 영향을 미치는 문제를 다룬다. 완벽한 정치적 중립성은 주관적이며 AI의 학습 데이터, 알고리즘, 사용자 상호작용에 내재된 편향으로 인해 달성 불가능하고 바람직하지 않다고 주장한다. 대신, 정치적 중립성에 대한 '근사치'를 추구하는 것이 중요하다고 제시하며, 세 가지 수준의 AI 개념화에 걸쳐 중립성을 근사화하기 위한 여덟 가지 기법을 제안한다. 두 가지 구체적인 적용 사례와 대규모 언어 모델(LLM)에 대한 평가를 통해 제안된 프레임워크의 실용성을 보여준다. 궁극적으로는 AI의 정치적 중립성에 대한 뉘앙스 있는 논의를 진전시키고 책임감 있고 조화로운 언어 모델 개발을 촉진하고자 한다.
