Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

From Structured Prompts to Open Narratives: Measuring Gender Bias in LLMs Through Open-Ended Storytelling

Created by
  • Haebom
Category
Empty

저자

Evan Chen, Run-Jun Zhan, Yan-Bai Lin, Hung-Hsuan Chen

개요

본 논문은 대규모 언어 모델(LLM)의 성별 편향성을 평가하기 위한 새로운 프레임워크를 제시합니다. 기존의 구조화된 시나리오나 신중하게 구성된 프롬프트에 의존하는 방법과 달리, 자유 형식의 스토리텔링을 활용하여 모델에 내재된 편향을 밝혀냅니다. 6개의 널리 사용되는 LLM을 대상으로 한 체계적인 분석 결과, 여성 캐릭터가 여러 직업에서 과대표되는 것으로 나타났습니다. 또한, LLM이 생성한 직업 성별 순위는 실제 노동 통계보다 인간의 고정관념에 더 부합하는 것으로 나타났습니다. 이러한 결과는 새로운 고정관념을 강화하지 않으면서 공정성을 보장하기 위한 균형 잡힌 완화 전략의 필요성을 강조합니다.

시사점, 한계점

시사점:
자유 형식 스토리텔링을 이용한 LLM의 성별 편향성 평가 프레임워크 제시
널리 사용되는 LLM에서 여성 캐릭터의 과대표 및 고정관념 반영 확인
공정성을 위한 균형 잡힌 편향 완화 전략 필요성 강조
한계점:
본 연구에서 사용된 LLM의 종류 및 버전에 대한 구체적인 정보 부족 (6개의 널리 사용되는 LLM이라고만 언급)
자유 형식 스토리텔링 기반 평가의 객관성 및 재현성에 대한 추가적인 검토 필요
편향 완화 전략에 대한 구체적인 제안 부재
👍