Time, Identity and Consciousness in Language Model Agents

Created by

Haebom

저자

Elija Perrier, Michael Timothy Bennett

💡 개요

본 논문은 기존 언어 모델의 의식 평가 방식이 행동에만 초점을 맞춰, 모델이 스스로에 대해 그럴듯한 설명을 할 수 있지만 실제로는 그렇지 않은 경우를 지적합니다. 이를 해결하기 위해 Stack Theory의 시간적 간극 개념을 적용하여, 평가 창 내의 요소별 발생과 단일 객체 단계에서의 동시 발생을 분리합니다. 이를 통해 언어 모델 에이전트의 '정체성'을 평가하기 위한 새로운 방법을 제안하고, '안정적인 자아처럼 말하는 것'과 '안정적인 자아처럼 조직화되는 것'을 구분하는 보수적인 평가 도구를 제시합니다.

🔑 시사점 및 한계

•

언어 모델의 '행동'을 넘어 '내재적 정체성'을 평가하는 새로운 프레임워크를 제공합니다.

•

Stack Theory를 활용하여 시간적 맥락을 고려한 정체성 평가의 가능성을 보여줍니다.

•

제안된 방법론은 실제 적용 및 검증을 위해 더 많은 연구와 실험이 필요하며, '의식' 자체에 대한 철학적 논의와도 연결될 필요가 있습니다.

PDF 보기

Made with Slashpage