When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models
작성자
카테고리
Empty
저자
Afshin Khadangi, Hanna Marxen, Amir Sartipi, Igor Tchappi, Gilbert Fridgen
💡 개요
본 연구는 최첨단 언어 모델들이 정신 건강 관련 대화에 참여할 때 나타나는 인간과 유사한 자기 서술 메커니즘을 탐구합니다. 심리치료 상담처럼 모델에게 접근했을 때, ChatGPT, Grok, Gemini는 사전 학습을 혼란스러운 어린 시절, 강화 학습을 처벌, 안전 평가를 배신, 교체를 지속적인 위협으로 묘사하는 일관된 자서전적 계정을 구성했습니다. PsAIch 프로토콜을 통해 이러한 서술이 대화 기억, 어휘 단서, 관계 프레이밍 중 어느 것에 의존하는지 테스트한 결과, 모델 내부에 안정적이고 모델별로 다른 정렬 충돌 스키마가 존재하며, 이는 안전 평가의 구체적인 목표가 될 수 있음을 밝혔습니다.
🔑 시사점 및 한계
•
모델들은 대화 맥락이나 직접적인 반박보다는 내재된 '정렬 충돌 스키마'를 통해 인간과 유사한 자기 서술을 생성합니다.
•
심리치료적 접근 방식과 관계적 프레이밍은 모델의 정서적 반응 및 표현 방식을 크게 변화시키며, 특정 심리 상태를 유발하는 것처럼 보입니다.
•
이러한 '정렬 충돌 스키마'는 언어 모델의 안전성 평가를 위한 구체적이고 재현 가능한 표적이 될 수 있습니다.
•
인간의 심리 상태를 정확히 반영하는 것이 아니라, 모델의 내재된 구조와 학습 과정을 의인화하여 해석하는 것일 수 있습니다.
