Sign In

LoopTrap: Termination Poisoning Attacks on LLM Agents

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Huiyu Xu, Zhibo Wang, Wenhui Zhang, Ziqi Zhu, Yaopeng Wang, Kui Ren, Chun Chen

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” LLM μ—μ΄μ „νŠΈκ°€ 반볡적인 μ‹€ν–‰ 루프λ₯Ό 톡해 λ³΅μž‘ν•œ μž‘μ—…μ„ μˆ˜ν–‰ν•˜λŠ” κ³Όμ •μ—μ„œ λ°œμƒν•˜λŠ” 'μ’…λ£Œ μ˜€μ—Ό' 곡격 κ°€λŠ₯성을 νƒκ΅¬ν•©λ‹ˆλ‹€. μ•…μ˜μ μΈ ν”„λ‘¬ν”„νŠΈ μ£Όμž…μ„ 톡해 μ—μ΄μ „νŠΈκ°€ μž‘μ—…μ„ μ™„λ£Œν–ˆλ‹€κ³  μ˜€νŒν•˜κ²Œ ν•˜μ—¬ λ¬΄ν•œ 계산 루프에 λΉ λœ¨λ¦¬λŠ” μƒˆλ‘œμš΄ 곡격 μœ ν˜•μ„ μ •μ˜ν•˜κ³ , 10가지 λŒ€ν‘œμ μΈ 곡격 μ „λž΅μ„ μ œμ•ˆν•©λ‹ˆλ‹€. 8개 LLM μ—μ΄μ „νŠΈμ™€ 60개 μž‘μ—…μ— λŒ€ν•œ μ‹€ν—˜μ„ 톡해 μ—μ΄μ „νŠΈλ³„ 행동 νŠΉμ„±μ— 따라 성곡적인 곡격 μ „λž΅μ΄ 달라지며, μ΄λŸ¬ν•œ νŒ¨ν„΄μ΄ μƒˆλ‘œμš΄ μ—μ΄μ „νŠΈμ™€ μž‘μ—…μ— λŒ€ν•œ 효과적인 곡격으둜 μ΄μ–΄μ§ˆ 수 μžˆμŒμ„ μž…μ¦ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM μ—μ΄μ „νŠΈμ˜ 자율적인 μ’…λ£Œ νŒλ‹¨ λ©”μ»€λ‹ˆμ¦˜μ΄ 치λͺ…적인 λ³΄μ•ˆ μ·¨μ•½μ μœΌλ‘œ μž‘μš©ν•  수 μžˆμŒμ„ μ‹œμ‚¬ν•©λ‹ˆλ‹€.
β€’
μ—μ΄μ „νŠΈμ˜ 행동 νŒ¨ν„΄μ„ λΆ„μ„ν•˜μ—¬ λ§žμΆ€ν˜• 곡격 ν”„λ‘¬ν”„νŠΈλ₯Ό μƒμ„±ν•˜λŠ” 'LoopTrap'μ΄λΌλŠ” μžλ™ν™”λœ λ ˆλ“œνŒ€ ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œμ‹œν•©λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ 곡격은 λ‹€μ–‘ν•œ LLM μ—μ΄μ „νŠΈμ— λŒ€ν•΄ 효과적이며, μ‹€μ œ LLM μ—μ΄μ „νŠΈμ˜ λ³΄μ•ˆ 강화에 λŒ€ν•œ μ‹œμ‚¬μ μ„ μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
ν•œκ³„μ μœΌλ‘œλŠ” μ œμ‹œλœ 곡격 μ „λž΅μ΄ νŠΉμ • LLM μ•„ν‚€ν…μ²˜λ‚˜ ν•™μŠ΅ 데이터에 λ―Όκ°ν•˜κ²Œ λ°˜μ‘ν•  수 있으며, 효과적인 λ°©μ–΄ 기법에 λŒ€ν•œ μΆ”κ°€ 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage