Narration-of-Thought: Inference-Time Scaffolding for Defeasible Ethical Reasoning in Large Language Models

작성자

Haebom

카테고리

Empty

저자

Patrick Cooper, Alvaro Velasquez

💡 개요

본 논문은 대규모 언어 모델(LLM)이 윤리적 딜레마를 해결할 때 발생하는 이해관계자 간의 충돌 및 불확실성 은폐 문제를 해결하기 위해 'Narration-of-Thought(NoT)'라는 새로운 프롬프팅 기법을 제안합니다. NoT는 추론 과정을 주인공, 이해관계자, 두 단계의 결과, 불확실성, 결정의 다섯 가지 섹션으로 구조화하여 LLM의 윤리적 추론 능력을 향상시킵니다. 추가적인 훈련이나 파인튜닝 없이도 NoT는 이해관계자 관련 오류를 31%에서 1% 미만으로, 불확실성 은폐를 72%에서 1-24%로 크게 감소시키는 성과를 보였습니다.

🔑 시사점 및 한계

•

LLM의 윤리적 추론 과정에서 발생하는 주요 오류 모드를 효과적으로 완화할 수 있는 간단하면서도 강력한 프롬프팅 기법을 제시합니다.

•

NoT는 LLM의 투명성을 높여 의사결정 과정을 감사하고 신뢰할 수 있는 에이전트 배포를 위한 기반을 마련합니다.

•

제안된 스캐폴딩 기법은 텍스트 생성 측면에서 추가적인 비용을 발생시키므로, 실제 적용 시 효율성과 성능 간의 균형을 고려해야 합니다.

•

다양한 윤리적 딜레마 및 LLM 아키텍처에 대한 추가적인 검증과 최적화 연구가 필요합니다.

PDF 보기

Made with Slashpage