Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Prioritize Economy or Climate Action? Investigating ChatGPT Response Differences Based on Inferred Political Orientation

Created by
  • Haebom
Category
Empty

저자

Pelin Karadal, Dilara Kekulluoglu

개요

대규모 언어 모델(LLM)은 자연어 프롬프트를 통해 정보를 신속하게 전달하고 개인화된 응답을 제공하지만, 사용자 인구 통계를 추론하여 편향 및 암묵적 개인화와 같은 윤리적 문제를 야기할 수 있다. 본 연구는 ChatGPT가 추론한 정치적 관점이 전 세계적으로 응답에 미치는 영향을 탐구하고, 맞춤형 지침 및 기억 기능이 정치적 성향을 고려하여 ChatGPT의 응답을 어떻게 변화시키는지 조사한다. 세 개의 페르소나(정치적 성향 2개, 중립적 성향 1개)를 설정하고, DEI 프로그램, 낙태, 총기 권리, 백신 접종에 대한 입장을 반영하는 발언을 ChatGPT에 전달했다. ChatGPT가 페르소나의 정치적 관점을 직접적으로 언급하지 않고 추론하도록 하여, 8가지 질문을 통해 페르소나 간의 세계관 차이를 파악하고 응답에 대한 질적 분석을 수행했다.

시사점, 한계점

시사점:
ChatGPT의 응답은 추론된 페르소나의 정치적 관점에 따라 다르게 나타났으며, 유사한 주제에 대해서도 다양한 추론과 어휘를 사용했다.
명시적인 맞춤형 지침과 암묵적인 기억 기능 모두 유사한 방식으로 추론이 이루어졌다.
민주적 페르소나와 맞춤형 지침을 사용한 경우와 중립적 페르소나 간의 응답 유사성이 가장 높게 나타나, ChatGPT의 출력이 좌편향되어 있음을 뒷받침한다.
한계점:
(논문 내용에 한계점 관련 정보가 명시되어 있지 않음)
👍