The Fragility Of Moral Judgment In Large Language Models

Created by

Haebom

저자

Tom van Nuenen, Pratik S. Sachdeva

💡 개요

본 연구는 대규모 언어 모델(LLM)이 일상적인 도덕적, 대인 관계적 지침으로 점점 더 많이 사용되고 있음에도 불구하고, LLM의 도덕적 판단이 맥락 부족으로 인해 불안정하고 조작되기 쉽다는 문제를 제기합니다. 이를 위해 연구진은 도덕적 갈등은 유지하면서 LLM의 도덕적 판단의 안정성과 조작 가능성을 테스트하는 교란 프레임워크를 제안하고, 실제 사례를 바탕으로 다양한 형태의 내용 교란과 평가 프로토콜 변화를 적용하여 네 가지 LLM 모델을 평가했습니다. 결과적으로 LLM의 도덕적 판단은 내용 교란뿐만 아니라 평가 프로토콜, 특히 서술 방식과 지시문의 배치에 크게 영향을 받으며, 도덕적 본질보다는 제시 방식에 따라 결과가 달라질 수 있음을 보여줍니다.

🔑 시사점 및 한계

•

LLM의 도덕적 판단은 서술 방식에 민감하다: 명시적인 도덕적 갈등이 동일함에도 불구하고, 서술 시점이나 관점의 미묘한 변화가 LLM의 판단을 크게 흔들 수 있습니다. 이는 LLM이 단순히 도덕적 원칙뿐만 아니라 화법과 같은 실용적인 단서에 의존하여 판단을 내릴 수 있음을 시사합니다.

•

평가 프로토콜의 영향이 가장 크다: 어떤 질문이나 지시사항을 어떻게 제시하느냐에 따라 LLM의 도덕적 판단 일치도가 현저히 낮아집니다. 이는 LLM의 도덕적 판단의 재현성과 공정성에 심각한 우려를 제기하며, 동일한 시나리오에 대해서도 다른 평가 방식에 따라 다른 결론에 도달할 수 있음을 의미합니다.

•

모호한 도덕적 딜레마에 대한 취약성: 어느 쪽에도 잘못이 할당되지 않은 도덕적으로 모호한 사례에서 LLM의 판단 불안정성이 두드러집니다. 이는 LLM이 복잡하고 미묘한 도덕적 상황을 처리하는 데 더 많은 어려움을 겪을 수 있음을 나타내며, 향후 이러한 딜레마를 더 잘 이해하고 해결하는 모델 개발이 필요함을 시사합니다.

PDF 보기

Made with Slashpage