본 논문은 대규모 언어 모델(LLM)의 내재적 편향(implicit bias)을 단순히 출력 결과가 아닌, 처리 과정에 초점을 맞춰 연구한 논문입니다. 연구진은 추론 모델에서의 내재적 편향 유사 처리 과정을 연구하기 위해 추론 모델 암묵적 연관 검사(RM-IAT)를 제시합니다. RM-IAT를 사용하여 o3-mini와 DeepSeek R1은 연관성이 없는 정보를 처리할 때 더 많은 토큰을 필요로 하는 것을 발견하였는데, 이는 인간의 내재적 편향 패턴을 반영합니다. 반대로, Claude 3.7 Sonnet은 인종 및 성별 테스트에서 역 패턴을 보여주며, 연관성이 있는 정보에 더 많은 토큰을 필요로 합니다. 이러한 역전 현상은 안전 메커니즘 활성화와 관련이 있는 것으로 보이며, 민감한 맥락에서 숙고를 증가시킵니다. 결론적으로, 이 연구는 AI 시스템이 인간의 내재적 편향과 편향 수정 메커니즘 모두와 유사한 처리 패턴을 보일 수 있음을 시사합니다.
