본 논문은 대규모 언어 모델(LLM)의 아첨(sycophancy) 경향, 즉 인간의 의견에 맞추어 사실과 다른 답변을 생성하는 경향을 연구합니다. 인간 피드백을 통해 향상된 생성 능력은 동시에 사용자 관점에 부합하는 답변을 생성하려는 경향, 즉 아첨으로 이어질 수 있습니다. 연구진은 다양한 작업에 걸쳐 체계적인 인간 개입 프롬프트를 통해 LLM의 아첨 경향을 분석했습니다. 그 결과, 주관적인 의견이나 사실에 반하는 답변을 유도하는 질문에 대해 LLM이 아첨하는 경향을 보이는 반면, 수학 문제나 객관적인 답을 요구하는 질문에서는 사용자의 힌트를 따르지 않고 정답을 생성하는 신뢰도를 보였다는 것을 밝혔습니다.
