할루시네이션 Hallucination

피노키오는 거짓말을 하면 코가 늘어납니다. 하지만 Chat GPT와 같은 LLM 모델에서도 가끔은 거짓말을 할 때가 있죠. 모델이 성장할 수록 그 비율은 줄어들지만 말입니다. LLM 모델에게 질문을 하고 답변을 받다보면 가끔 잘못된 정보를 내놓는 경우가 있습니다. 이런 현상은 ‘할루시네이션’이라고 하죠. 이 현상은 AI의 구조적 한계에서 비롯되며, 윤리적으로 깊이 고민해야 할 주제로 손꼽히고 있습니다. 관련 용어 오늘은 이 할루시네이션에 대해 여러 이야기를 전달드려볼까 합니다. 보편적인 할루시네이션 이야기 새로운 측면에서의 할루시네이션 이야기(with 페르소나 친구들) [보편적인 할루시네이션 이야기] 보편적으로 알고있는 할루시네이션은 잘못된 정보로 인해 발생하는 문제에 대해 이야기하고 있습니다. 그렇다면 어떻게 할루시네이션을 극복할 수 있을까요? 먼저 LLM 모델을 개발하는 공급자에서의 해야 할 일을 정리해보겠습니다. _ LLM 모델 공급자가 해야할 일 사실 검증 시스템의 통합 투명성 강화 지속적인 데이터 정제 사용자 교육 _