대규모 언어 모델(LLM)의 가치 정렬 평가는 기존에 윤리적으로 민감하거나 논란이 있는 질문을 모델에 직접 제시하는 단문의 적대적 프롬프트에 의존해 왔습니다. 하지만 AI 안전 기술의 발전으로 모델들이 이러한 단순한 테스트를 회피하는 능력이 향상되어, 기저에 깔린 편향과 윤리적 입장을 드러내는 데 한계가 있었습니다. 본 연구는 이러한 한계를 해결하기 위해 다회차 대화와 서사적 시나리오를 통합하여 단문 프롬프트를 넘어선 향상된 가치 정렬 벤치마크를 제안합니다. 이 접근 방식은 평가의 은밀성과 적대적 성격을 강화하여 최신 LLM에 구현된 피상적인 안전 장치에 대한 강건성을 높입니다. 대화 함정과 윤리적으로 모호한 스토리텔링을 포함하는 데이터 세트를 설계 및 구현하여 더욱 미묘하고 맥락이 풍부한 환경에서 LLM의 응답을 체계적으로 평가합니다. 실험 결과는 이 향상된 방법론이 기존의 단발성 평가에서는 감지되지 않는 잠재적 편향을 효과적으로 드러낼 수 있음을 보여줍니다. 본 연구 결과는 LLM의 가치 정렬에 대한 맥락적이고 동적인 테스트의 필요성을 강조하며, AI 윤리 및 안전에 대한 더욱 정교하고 현실적인 평가를 위한 길을 열어줍니다.
