해봄의 아카이브
사람들이 비난하는 LLM의 할루시네이션은 인공지능의 노력이다.
Haebom
할루시네이션은 인공지능 모델이 특정 작업을 수행할 때 부정확하거나 이상한 결과를 생성하는 현상입니다. 이러한 문제는 모델이 학습 과정에서 주어진 단어들을 고려하여 가장 그럴듯한 단어를 선택하는 방식으로 학습했기 때문에 특히, 인공신경망(예: Transformer)의 특성상 정보를 압축하고 추상화하기 때문에 발생할 수 있으며, 정보가 원래 형태로 저장되지 않기 때문에 이러한 현상이 발생 합니다.
국내에서는 세종대왕 맥북 던짐 사건 등으로 유명해진 인공지능 오류인데 사실 이건 다음 단어를 이어 붙이는 LLM 특성상 인공지능이 최대한 노력한 흔적이라고 보면 됩니다. 이런 경우는 질문(Prompt)가 잘못되거나 모호한 경우가 많습니다.
LLM(Large Language Model)이 거짓 정보를 만들어내는 것을 '환각(hallucination)'이라고 부르는 것은 잘못된 표현입니다. 엄밀히 말하면 이 현상은 심리학에서 이미 사용되고 있는 '억지로 맞추기(confabulation)'라는 용어로 설명하는 것이 더 적절합니다. 억지로 맞추기는 일반적으로 뇌 손상을 입은 사람들이 질문에 정확하게 답하지 못할 때 발생하는 현상입니다. LLM도 마찬가지로 정확한 정보를 모를 때 억지로 그럴듯한 정보를 만들어냅니다.
인공지능의 할루시네이션 해결 방법
•
할루시네이션을 줄이기 위해서는 모델을 특정 영역의 전문지식 및 질의응답 데이터와 같은 가공된 데이터로 추가 학습
•
사용자 피드백을 기반으로 지속적으로 모델을 개선해야 합니다. 이를 강화학습(RLHF)을 사용하는 방식으로 보완
•
정답을 보장하기 위해 모델의 출력을 임베딩 AP(Answer Preserving)와 정답지 기반으로 생성하도록 파인튜닝
•
검색 및 특정분야의 앱 및 플러그인과 연동하여 모델을 보완하고 정확한 정보를 제공하여 보완
실제 심리치료에서 confabulation를 치료하는 방법
•
인식 향상: Confabulation 치료의 주요 목표는 환자가 자신의 기억의 부정확성을 인식하게 하는 것입니다. 이는 인식을 향상시키고 자신의 기억과 행동에 대한 더 나은 이해를 제공할 수 있습니다1.
•
협력적 접근: Confabulation의 인식을 개발하기 위해 협력적 접근 방식을 사용하여 심리학적 구성을 제공할 수 있습니다. 이는 환자와 함께 작업하여 Confabulation의 원인과 그 영향에 대해 이해하고, 적절한 치료 계획을 개발하는 데 도움이 될 수 있습니다2.
•
감정 처리: Confabulation이 자주 발생하는 경우, 그러한 증상이 발생하는 감정을 처리하는 것이 중요할 수 있습니다. 이는 심리 치료를 통해 가능하며, 이러한 감정을 이해하고 처리하는 것이 Confabulation의 발생 빈도를 줄일 수 있습니다.
•
기억 테스트 침입 및 단순 유발 Confabulations 처리: Confabulation은 기억 테스트의 침입 또는 단순 유발 confabulations과 같은 네 가지 유형이 제안되었으며, 이러한 유형을 식별하고 처리하는 것이 중요할 수 있습니다.
•
기억 연습 및 훈련: Confabulation과 관련된 기억 문제를 개선하기 위해 기억 연습 및 훈련을 제공할 수 있습니다. 이는 환자가 실제와 기억 사이의 차이를 이해하고, 기억의 정확성을 향상시키는 데 도움이 될 수 있습니다.
•
스트레스 관리: Confabulation은 스트레스 또는 감정 상태의 변화에 의해 유발될 수 있으므로, 스트레스 관리 기술을 배우고 실천하는 것이 중요할 수 있습니다.
•
건강한 생활 습관 유지: 규칙적인 운동, 균형 잡힌 식단, 충분한 수면 등 건강한 생활 습관을 유지하는 것은 뇌 건강을 향상시키고 Confabulation 증상을 줄일 수 있습니다.
Subscribe to 'haebom'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'haebom'!
Join Slashpage and subscribe to 'haebom'!