본 논문은 대규모 언어 모델의 지식을 저렴한 비용으로 지속적으로 업데이트하는 순차적 지식 편집 기술에 대해 다룬다. 기존 순차적 편집 방법들은 장기간 편집 후 편집 성공률이 크게 감소하는 문제점을 가지고 있는데, 이는 편집 횟수 증가에 따라 모델 출력이 목표 대상에서 점점 벗어나기 때문이다. 본 논문에서는 이 문제를 중첩된 노이즈 축적 문제로 정의하고, 이러한 편차에 기여하는 요인들을 분석하여 새로운 방법인 DeltaEdit을 제안한다. DeltaEdit은 동적 직교 제약 전략을 통해 업데이트 매개변수를 최적화하여 편집 간의 간섭을 효과적으로 줄이고 편차를 완화한다. 실험 결과, DeltaEdit은 기존 방법보다 편집 성공률과 일반화 능력 유지 측면에서 뛰어난 성능을 보이며, 광범위한 순차적 편집에서도 안정적이고 신뢰할 수 있는 모델 성능을 보장한다.
