Sign In

Adaptive Memory Admission Control for LLM Agents

Created by
  • Haebom
Category
Empty

μ €μž

Guilin Zhang, Wei Jiang, Xiejiashan Wang, Aisha Behr, Kai Zhao, Jeffrey Friedman, Xu Chu, Amine Anoun

πŸ’‘ κ°œμš”

LLM 기반 μ—μ΄μ „νŠΈκ°€ 닀쀑 μ„Έμ…˜ μΆ”λ‘  및 μƒν˜Έμž‘μš©μ„ μœ„ν•΄ μž₯κΈ° 기얡에 μ˜μ‘΄ν•˜λŠ” μΆ”μ„Έμ΄μ§€λ§Œ, ν˜„μž¬ μ‹œμŠ€ν…œμ€ 정보 μ €μž₯에 λŒ€ν•œ μ œμ–΄κ°€ λΆ€μ‘±ν•©λ‹ˆλ‹€. λ³Έ μ—°κ΅¬λŠ” λ©”λͺ¨λ¦¬ κ°€μΉ˜λ₯Ό 5가지 μš”μΈ(미래 효용, 사싀 신뒰도, 의미둠적 μƒˆλ‘œμ›€, μ‹œκ°„μ  κ·Όμ ‘μ„±, μ½˜ν…μΈ  μœ ν˜• 사전)으둜 λΆ„ν•΄ν•˜κ³ , κ·œμΉ™ 기반 νŠΉμ§• μΆ”μΆœκ³Ό LLM을 ν™œμš©ν•œ μ˜μ‚¬κ²°μ •μ„ κ²°ν•©ν•œ A-MAC ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. 이λ₯Ό 톡해 λͺ…ν™•ν•˜κ³  효율적인 μž₯κΈ° κΈ°μ–΅ μ œμ–΄λ₯Ό κ°€λŠ₯ν•˜κ²Œ ν•˜λ©°, LoCoMo λ²€μΉ˜λ§ˆν¬μ—μ„œ F1 점수 0.583 달성 및 지연 μ‹œκ°„ 31% κ°μ†ŒλΌλŠ” μ„±κ³Όλ₯Ό κ±°λ‘μ—ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM μ—μ΄μ „νŠΈμ˜ μž₯κΈ° κΈ°μ–΅ 관리에 μžˆμ–΄ λͺ…μ‹œμ μ΄κ³  해석 κ°€λŠ₯ν•œ μ œμ–΄μ˜ μ€‘μš”μ„±μ„ μž…μ¦ν–ˆμŠ΅λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ A-MAC ν”„λ ˆμž„μ›Œν¬λŠ” λ©”λͺ¨λ¦¬ κ°€μΉ˜ 평가λ₯Ό κ΅¬μ‘°ν™”ν•˜μ—¬ 투λͺ…ν•˜κ³  효율적인 μ˜μ‚¬κ²°μ •μ„ κ°€λŠ₯ν•˜κ²Œ ν•©λ‹ˆλ‹€.
β€’
μ½˜ν…μΈ  μœ ν˜• 사전(content type prior)이 μ‹ λ’°ν•  수 μžˆλŠ” λ©”λͺ¨λ¦¬ μˆ˜μš©μ— κ°€μž₯ 큰 영ν–₯을 λ―ΈμΉ˜λŠ” μš”μΈμœΌλ‘œ ν™•μΈλ˜μ—ˆμŠ΅λ‹ˆλ‹€.
β€’
ν–₯ν›„ μ—°κ΅¬μ—μ„œλŠ” A-MAC의 적용 λ²”μœ„λ₯Ό λ„“νžˆκ³ , λ‹€μ–‘ν•œ μ—μ΄μ „νŠΈ μ•„ν‚€ν…μ²˜μ— λŒ€ν•œ 적응성을 λ”μš± κ°•ν™”ν•˜λŠ” λ°©μ•ˆμ„ 탐ꡬ할 ν•„μš”κ°€ μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage