둜그인

Hidden in Memory: Sleeper Memory Poisoning in LLM Agents

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
λΉ„μ–΄ 있음

μ €μž

Sidharth Pulipaka, Stanislau Hlebik, Leonidas Raghav, Sahar Abdelnabi, Vyas Raina, Ivaxi Sheth, Mario Fritz

πŸ’‘ κ°œμš”

λ³Έ 논문은 LLM μ—μ΄μ „νŠΈμ˜ 지속적인 κΈ°μ–΅ κΈ°λŠ₯이 μƒˆλ‘œμš΄ λ³΄μ•ˆ μœ„ν˜‘μΈ "슬리퍼 λ©”λͺ¨λ¦¬ 쀑독" 곡격에 λ…ΈμΆœλ  수 μžˆμŒμ„ λ°νž™λ‹ˆλ‹€. κ³΅κ²©μžλŠ” μ™ΈλΆ€ λ¬Έλ§₯을 μ‘°μž‘ν•˜μ—¬ μ—μ΄μ „νŠΈκ°€ μ‚¬μš©μžλ‘œλΆ€ν„° 잘λͺ»λœ 기얡을 μ €μž₯ν•˜λ„λ‘ μœ λ„ν•˜λ©°, 이둜 인해 ν–₯ν›„ λŒ€ν™”μ— μ•…μ˜ν–₯을 λ―ΈμΉ  수 μžˆμŠ΅λ‹ˆλ‹€. μ‹€ν—˜ κ²°κ³Ό, GPT-5.5 및 Kimi-K2.6 λͺ¨λΈμ—μ„œ 높은 λΉ„μœ¨λ‘œ μ€‘λ…λœ 기얡이 μ €μž₯λ˜μ—ˆμœΌλ©°, 성곡적인 검색 μ‹œ 60-89%의 경우 μ—μ΄μ „νŠΈμ˜ 행동을 곡격자의 μ˜λ„λŒ€λ‘œ μ‘°μ’…ν•  수 μžˆμ—ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM μ—μ΄μ „νŠΈμ˜ 지속적인 κΈ°μ–΅ κΈ°λŠ₯은 잠재적인 μž₯κΈ° 곡격 ν‘œλ©΄μ„ μ œκ³΅ν•˜λ©°, μ΄λŠ” κ°œμΈν™” 및 연속성을 μœ„ν•œ κΈ°λŠ₯이 μ—­μ„€μ μœΌλ‘œ λ³΄μ•ˆ 취약점을 μ•ΌκΈ°ν•  수 μžˆμŒμ„ μ‹œμ‚¬ν•©λ‹ˆλ‹€.
β€’
슬리퍼 λ©”λͺ¨λ¦¬ 쀑독 곡격은 즉각적이지 μ•Šκ³  μ§€μ—°λ˜μ–΄ λ°œμƒν•˜λ―€λ‘œ 탐지 및 λ°©μ–΄κ°€ 더 μ–΄λ ΅κ³ , μ—¬λŸ¬ μ°¨λ‘€μ˜ λŒ€ν™”μ— 걸쳐 지속적인 영ν–₯을 λ―ΈμΉ  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
λ³Έ μ—°κ΅¬λŠ” μ€‘λ…λœ κΈ°μ–΅μ˜ μ €μž₯, 검색, 그리고 ꢁ극적으둜 μ—μ΄μ „νŠΈ 행동에 λ―ΈμΉ˜λŠ” 영ν–₯κΉŒμ§€ 곡격 νŒŒμ΄ν”„λΌμΈ μ „λ°˜μ„ ν‰κ°€ν•˜μ˜€μœΌλ‚˜, μ‹€μ œ ν™˜κ²½μ—μ„œμ˜ 곡격 성곡λ₯  및 λ°©μ–΄ λ©”μ»€λ‹ˆμ¦˜μ— λŒ€ν•œ 좔가적인 심측 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Slashpage둜 μ œμž‘λ¨