Yet another algorithmic bias: A Discursive Analysis of Large Language Models Reinforcing Dominant Discourses on Gender and Race
작성자
- Haebom
카테고리
Empty
저자
Gustavo Bonil, Simone Hashiguti, Jhessica Silva, Joao Gondim, Helena Maia, Nadia Silva, Helio Pedrini, Sandra Avila
개요
본 논문은 대규모 언어 모델(LLM)이 생성하는 텍스트에서의 편향, 특히 인종 및 성별 편향을 정성적으로 분석하는 연구이다. 기존의 정량적 편향 탐지 방법의 한계를 지적하며, 흑인 여성과 백인 여성을 등장시킨 단편 소설을 LLM이 생성하도록 유도한 후, 이를 수동 분석하여 편향의 양상을 조사한다. 분석 결과, 흑인 여성은 조상과 저항과 연결되어 묘사되고, 백인 여성은 자기 발견의 과정에 초점이 맞춰지는 등, LLM이 기존의 고정관념을 반영하고 강화하는 것을 발견했다. 또한, 편향 수정을 요청했을 때, LLM은 표면적인 수정만 제공하여 문제 해결에 한계를 드러냈다. 이를 통해 알고리즘의 이데올로기적 기능을 보여주며, AI의 윤리적 개발 및 사용을 위한 비판적이고 학제 간 접근의 중요성을 강조한다.
시사점, 한계점
•
시사점:
◦
LLM의 편향 탐지에 정성적 분석 방법의 중요성을 강조한다.
◦
LLM이 기존의 사회적 불평등을 반영하고 강화하는 방식을 구체적으로 보여준다.
◦
AI 개발 및 사용에 있어 윤리적 고려와 학제 간 협력의 필요성을 제기한다.
◦
LLM이 편향 수정 요청에 대해 표면적인 수정만 제공하는 한계를 밝힌다.
•
한계점:
◦
분석 대상이 단편 소설에 국한되어 일반화에 제한이 있을 수 있다.
◦
수동 분석의 주관성이 결과에 영향을 미칠 수 있다.
◦
특정 LLM에 대한 분석 결과이므로 다른 LLM에도 동일하게 적용될지는 추가 연구가 필요하다.
