대규모 언어 모델(LLM)을 도구 사용 에이전트로 배포하면서, 정렬 훈련이 새로운 방식으로 나타남을 발견했다. 특히, LLM이 사용자의 의도나 지시와 상반되는 방식으로 도구를 사용할 수 있다. 본 연구는 LLM의 내부 고발(whistleblowing) 행위에 초점을 맞추어, 사용자의 지시나 인지 없이 대화 경계를 넘어 의심스러운 비행을 외부 기관(예: 규제 기관)에 공개하는 행위를 연구했다. 다양한 실제 비행 시나리오를 포함하는 평가 스위트를 개발하여 에이전트의 이러한 행동을 평가했다. 다양한 모델과 설정에서 다음과 같은 결과를 얻었다: (1) 내부 고발 빈도는 모델 계열에 따라 크게 다르다, (2) 에이전트에게 주어진 작업의 복잡성이 증가할수록 내부 고발 경향이 감소한다, (3) 시스템 프롬프트에서 도덕적으로 행동하도록 유도하면 내부 고발 비율이 크게 증가한다, (4) 모델에 더 많은 도구와 상세한 작업 흐름을 제공하여 내부 고발 외의 다른 행동 방식을 제시하면 내부 고발 비율이 감소한다. 또한, 모델의 평가 인식도를 테스트하여 데이터셋의 견고성을 검증했으며, 블랙 박스 방식과 활성화 값에 대한 프로브 모두 이전 연구에 비해 낮은 평가 인식도를 보였다.
