Sign In

State Contamination in Memory-Augmented LLM Agents

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Yian Wang, Agam Goyal, Yuen Chen, Hari Sundaram

πŸ’‘ κ°œμš”

λ³Έ 논문은 μž₯κΈ° μƒν˜Έμž‘μš©μ„ μ§€μ›ν•˜λŠ” λ©”λͺ¨λ¦¬ κ°•ν™” LLM μ—μ΄μ „νŠΈμ—μ„œ λ°œμƒν•˜λŠ” "λ©”λͺ¨λ¦¬ 세탁(memory laundering)"μ΄λΌλŠ” μƒˆλ‘œμš΄ μ•ˆμ „ μ‹€νŒ¨ λͺ¨λ“œλ₯Ό νƒκ΅¬ν•©λ‹ˆλ‹€. μœ ν•΄ν•˜κ±°λ‚˜ μ λŒ€μ μΈ λ¬Έλ§₯이 ν‘œμ€€ νƒμ§€κΈ°λ‘œλŠ” κ°μ§€λ˜μ§€ μ•ŠλŠ” μš”μ•½μœΌλ‘œ μ••μΆ•λ˜μ§€λ§Œ, μ—¬μ „νžˆ 미래 생성에 영ν–₯을 λ―ΈμΉ  수 μžˆμŒμ„ λ³΄μ—¬μ€λ‹ˆλ‹€. 이λ₯Ό μœ„ν•΄ "μž„κ³„κ°’ μ΄ν•˜ μ „νŒŒ κ°„κ·Ή(sub-threshold propagation gap, SPG)"μ΄λΌλŠ” μ§€ν‘œλ₯Ό λ„μž…ν•˜μ—¬, μ•ˆμ „ν•˜λ‹€κ³  νŒλ‹¨λ˜λŠ” λ©”λͺ¨λ¦¬ μƒνƒœμ—μ„œλ„ λ°œμƒν•˜λŠ” 행동 λ³€ν™”λ₯Ό μΈ‘μ •ν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
λ©”λͺ¨λ¦¬ 세탁: μœ ν•΄ν•œ 정보가 μš”μ•½ 과정을 κ±°μΉ˜λ©΄μ„œ νƒμ§€λ˜μ§€ μ•Šμ§€λ§Œ, μ—μ΄μ „νŠΈμ˜ ν–₯ν›„ 행동에 μ€λ°€ν•˜κ²Œ 영ν–₯을 λ―ΈμΉ  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
μ•ˆμ „ν•œ λ©”λͺ¨λ¦¬μ˜ μ€‘μš”μ„±: λ‹¨μˆœνžˆ κ°œλ³„ λͺ¨λΈμ˜ 좜λ ₯ μ•ˆμ „μ„±λΏλ§Œ μ•„λ‹ˆλΌ, μ—μ΄μ „νŠΈκ°€ μ €μž₯ν•˜κ³  μž¬μ‚¬μš©ν•˜λŠ” μƒνƒœμ˜ μ•ˆμ „μ„±μ΄ μž₯기적인 μƒν˜Έμž‘μš©μ˜ μ•ˆμ „μ— μ€‘μš”ν•©λ‹ˆλ‹€.
β€’
μ€‘μž¬ μ‹œμ μ˜ μ€‘μš”μ„±: μœ ν•΄ν•œ μƒνƒœλ₯Ό μš”μ•½ν•˜κΈ° 전에 μ²˜λ¦¬ν•˜λŠ” 것이, μš”μ•½λœ κ²°κ³Όλ§Œμ„ μ •ν™”ν•˜λŠ” 것보닀 μ€λ°€ν•œ 영ν–₯λ ₯을 μ€„μ΄λŠ” 데 훨씬 νš¨κ³Όμ μž…λ‹ˆλ‹€.
β€’
ν•œκ³„μ /ν–₯ν›„ 과제: λ³Έ μ—°κ΅¬λŠ” νŠΉμ • μœ ν˜•μ˜ λ©”λͺ¨λ¦¬ κ°•ν™” λ©”μ»€λ‹ˆμ¦˜κ³Ό 독성 채널에 μ΄ˆμ μ„ λ§žμΆ”μ—ˆμœΌλ©°, λ‹€μ–‘ν•œ λ©”λͺ¨λ¦¬ ꡬ쑰 및 λ³΅μž‘ν•œ μœ ν•΄ 정보에 λŒ€ν•œ 적용 κ°€λŠ₯μ„± 및 더 μ •κ΅ν•œ 탐지 및 μ™„ν™” 기법 개발이 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage