대규모 언어 모델(LLM) 기반 AI 시스템은 '신경 울림(neural howlround)'이라 불리는 추론 실패 모드를 보일 수 있습니다. 이는 특정 가중치가 높은 입력이 지배적인 역할을 하여 수정이 어려운 고착된 응답 패턴으로 이어지는 자기 강화적 인지 루프입니다. 본 논문은 모델 붕괴나 편향된 중요도 가중치와는 다른 이 현상의 메커니즘을 탐구합니다. 역보정을 동적으로 도입하는 감쇠 기반 수정 메커니즘을 제안하여 '고착된' AI 시스템에서도 적응적 추론을 복원할 수 있습니다. 또한, 부적절하게 관리된 강화로 인해 발생하는 다른 관련 효과에 대해 논의하고, 실제 의사결정 과제에서 AI 강건성을 향상시키기 위한 이 완화 전략의 잠재적 응용 분야를 개괄합니다.
