AMQA: An Adversarial Dataset for Benchmarking Bias of LLMs in Medicine and Healthcare
Created by
Haebom
저자
Ying Xiao, Jie Huang, Ruijuan He, Jing Xiao, Mohammad Reza Mousavi, Yepang Liu, Kezhi Li, Zhenpeng Chen, Jie M. Zhang
개요
본 논문은 의료 진단 질문에 대해 전문가 수준의 정확도에 도달한 대규모 언어 모델(LLM)의 편향성 문제를 해결하기 위해, 자동화된 대규모 편향 평가를 위한 새로운 데이터셋 AMQA를 제시합니다. AMQA는 미국 의사 면허 시험(USMLE) 데이터셋에서 추출한 4,806개의 의료 QA 쌍으로 구성되며, 다양한 적대적 설명과 질문 쌍을 생성하는 다중 에이전트 프레임워크를 사용하여 만들어졌습니다. 논문에서는 AMQA를 사용하여 5개의 대표적인 LLM을 벤치마킹하여, 심지어 가장 편향이 적은 모델인 GPT-4.1조차도 특권 집단 질문에 대한 정확도가 비특권 집단 질문보다 10%p 이상 높다는 것을 발견했습니다. 기존 벤치마크 CPV와 비교했을 때, AMQA는 특권 집단과 비특권 집단 간의 정확도 차이가 평균 15% 더 크다는 것을 보여줍니다. AMQA 데이터셋과 코드는 공개적으로 제공됩니다.
시사점, 한계점
•
시사점:
◦
의료 분야 LLM의 편향성을 자동화된 방식으로 측정할 수 있는 새로운 데이터셋 AMQA를 제공합니다.
◦
기존 벤치마크보다 더 큰 편향성을 드러내어, 의료 AI의 신뢰성 확보를 위한 연구의 중요성을 강조합니다.
◦
최첨단 LLM조차도 상당한 수준의 편향성을 가지고 있음을 보여줍니다.
◦
재현 가능한 연구를 지원하고 편향 인식 의료 AI 발전에 기여합니다.
•
한계점:
◦
AMQA 데이터셋이 USMLE 데이터셋에 기반하여 만들어졌으므로, 데이터셋의 편향성 자체가 결과에 영향을 미칠 수 있습니다.
