Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

EMSEdit: Efficient Multi-Step Meta-Learning-based Model Editing

Created by
  • Haebom

作者

Xiaopeng Li, Shasha Li, Xi Wang, Shezheng Song, Bin Ji, Shangwen Wang, Jun Ma, Xiaodong Liu, Mina Liu, Jie Yu

概要

本論文は、大規模言語モデル（LLM）の知識更新コストの問題を解決するために、メタ学習ベースのモデル編集（MLME）の限界を改善した効率的なMulti-Step Edit（EMSEdit）を提案する。 EMSEditは、制限されたデータ環境で編集パフォーマンスを向上させるためにMulti-Step Backpropagation（MSBP）を利用し、未編集の知識を保存するためにNormベースの正規化を導入します。さまざまな実験を通して、EMSEditは既存の方法を上回り、複雑な編集作業にも強いことを示しています。

Takeaways、Limitations

•
Takeaways：
◦
限られたデータ環境でのLLM編集パフォーマンスの向上
◦
Multi-Step Backpropagation（MSBP）を活用して効率的に編集可能。
◦
ノームベースの正規化によって編集されていない知識の保存。
◦
既存の方法との統合によるさらなる性能向上の可能性の提示
◦
複雑な編集作業のための堅牢性の実証。
•
Limitations：
◦
具体的なLimitationsへの言及は、論文の要約に直接提示されていません。
👍
Made with Slashpage