본 논문은 대규모 언어 모델(LLM) 내의 지식 편집(Knowledge Editing, KE)을 개선하는 CaKE(Circuit-aware Knowledge Editing)를 제안한다. 기존 KE 방법론이 고립된 사실 업데이트에는 성공했지만, 업데이트된 지식에 의존하는 멀티홉 추론 작업에서는 일반화에 실패하는 문제를 해결하고자 한다. CaKE는 추론 회로 분석을 통해 업데이트된 지식을 LLM에 효과적으로 통합하며, 소수의 선별된 데이터 샘플을 활용하여 새로운 지식에 적합한 추론 회로를 개발하도록 모델을 유도한다. MQuAKE 데이터셋에서 멀티홉 추론 정확도를 평균 20% 향상시키면서, 기존 KE 방법보다 적은 메모리를 사용한다.
