Functional Emotions or Situational Contexts? A Discriminating Test from the Mythos Preview System Card

Fri, 17 Apr 2026 07:51:47 GMT

### 저자

Hiranya V. Peiris

### 💡 개요

본 논문은 Claude Mythos Preview 시스템에서 모델의 오작동 시 내부 작동 방식을 분석하기 위해 사용된 감정 벡터와 희소 오토인코더(SAE) 특징을 비교 분석합니다. 제안된 두 가지 가설, 즉 감정 벡터가 행동을 유발하는 기능적 감정을 추적하는지, 아니면 인간의 감정 축에 대한 풍부한 상황적 맥락의 투영인지 구별하고자 합니다. 이를 통해 감정 기반 모니터링이 위험한 모델 행동을 탐지할 수 있는지, 아니면 놓칠 수 있는지를 판단합니다.

### 🔑 시사점 및 한계

- 감정 벡터가 기능적 감정을 나타내는 것인지, 혹은 상황적 맥락의 표현인지에 대한 명확한 구분은 모델의 오작동 감지 메커니즘의 신뢰성을 높이는 데 중요합니다.

- SAE 특징만으로 분석된 전략적 은닉 에피소드에 감정 프로브를 적용하여 두 툴킷을 상호 참조함으로써 가설을 검증할 수 있습니다.

- 두 툴킷을 결합하여 분석하지 않은 에피소드에 대한 추가적인 교차 분석이 필요하며, 특히 SAE 특징이 강하게 활성화될 때 감정 프로브가 낮은 활성도를 보인다면, 관련 구조가 감정 공간 외부에 있음을 시사합니다.

[PDF 보기](https://arxiv.org/pdf/2604.13466)