Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Resolving UnderEdit & OverEdit with Iterative & Neighbor-Assisted Model Editing

Created by
  • Haebom

저자

Bhiman Kumar Baghel, Scott M. Jordan, Zheyuan Ryan Shi, Xiang Lorraine Li

개요

본 논문은 대규모 언어 모델(LLM)의 지식을 효율적으로 업데이트하는 모델 편집 기법을 제안합니다. 기존의 모델 편집 방법은 지식 주입 실패(UnderEdit) 또는 관련 없는 지식의 손상(OverEdit) 문제를 갖고 있습니다. 이를 해결하기 위해, 본 논문에서는 반복적인 모델 편집(iterative model editing)과 이웃 지식 활용 모델 편집(neighbor-assisted model editing)이라는 두 가지 보완적인 방법을 제시합니다. 반복적 편집은 UnderEdit을 완화하고, 이웃 지식 활용 편집은 OverEdit을 줄이는 데 효과적입니다. 실험 결과, 제안된 기법은 다양한 LLM, 알고리즘, 벤치마크에서 편집 성능을 향상시키며, UnderEdit를 최대 38퍼센트, OverEdit를 최대 6퍼센트 감소시키는 것으로 나타났습니다.

시사점, 한계점

시사점:
LLM의 지식 업데이트에 대한 효율적인 대안 제시 (모델 재훈련이나 파인튜닝보다 효율적)
기존 모델 편집 방법의 한계점인 UnderEdit 및 OverEdit 문제를 효과적으로 해결
다양한 LLM, 알고리즘, 벤치마크에서 성능 향상을 검증
locate-and-edit 방식의 모델 편집 방법에 광범위하게 적용 가능
한계점:
제시된 방법의 성능 향상이 특정 LLM, 알고리즘, 벤치마크에 국한될 가능성
실제 상용 환경에서의 적용 가능성 및 효율성에 대한 추가적인 연구 필요
복잡한 모델 구조에 대한 적용 가능성 및 효율성 검증 필요
👍