Sign In

Learning Query-Aware Budget-Tier Routing for Runtime Agent Memory

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Haozhen Zhang, Haodong Yue, Tao Feng, Quanyu Long, Jianzhu Bao, Bowen Jin, Weizhi Zhang, Xiao Li, Jiaxuan You, Chengwei Qin, Wenya Wang

πŸ’‘ κ°œμš”

λ³Έ 논문은 LLM μ—μ΄μ „νŠΈκ°€ 단일 μ»¨ν…μŠ€νŠΈ 창을 λ„˜μ–΄μ„œ μž‘λ™ν•  λ•Œ λ°œμƒν•˜λŠ” λ©”λͺ¨λ¦¬ ν™œμš©μ˜ λΉ„νš¨μœ¨μ„±κ³Ό 정보 손싀 문제λ₯Ό ν•΄κ²°ν•˜κΈ° μœ„ν•΄, λŸ°νƒ€μž„ μ‹œ 쿼리 정보에 κΈ°λ°˜ν•˜μ—¬ λ©”λͺ¨λ¦¬ μ‚¬μš©λŸ‰μ„ μ‘°μ ˆν•˜λŠ” BudgetMemμ΄λΌλŠ” ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. BudgetMem은 각 λ©”λͺ¨λ¦¬ λͺ¨λ“ˆμ„ μ €/쀑/κ³  μ˜ˆμ‚° λ“±κΈ‰μœΌλ‘œ μ œκ³΅ν•˜κ³ , κ²½λŸ‰ λΌμš°ν„°λ₯Ό 톡해 쿼리에 따라 졜적의 μ˜ˆμ‚° 등급을 μ„ νƒν•˜μ—¬ μ„±λŠ₯κ³Ό λΉ„μš©μ„ 효율적으둜 κ΄€λ¦¬ν•©λ‹ˆλ‹€. μ‹€ν—˜ κ²°κ³Ό, BudgetMem은 μ„±λŠ₯ μš°μ„  μ‹œμ— κΈ°μ‘΄ 방법을 λŠ₯κ°€ν–ˆμœΌλ©°, μ˜ˆμ‚° μ œμ•½ ν•˜μ—μ„œλ„ 더 λ‚˜μ€ 정확도-λΉ„μš© μ ˆμΆ©μ•ˆμ„ μ œμ‹œν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
λŸ°νƒ€μž„ μ‹œ 쿼리 기반의 동적인 λ©”λͺ¨λ¦¬ μ˜ˆμ‚° μ‘°μ ˆμ„ 톡해 LLM μ—μ΄μ „νŠΈμ˜ μ„±λŠ₯κ³Ό λΉ„μš© νš¨μœ¨μ„±μ„ λ™μ‹œμ— κ°œμ„ ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
λ©”λͺ¨λ¦¬ λͺ¨λ“ˆμ˜ κ΅¬ν˜„ λ³΅μž‘μ„±, μΆ”λ‘  방식, μš©λŸ‰ λ“± λ‹€μ–‘ν•œ μ „λž΅μ„ ν™œμš©ν•˜μ—¬ μ˜ˆμ‚° 등급을 μ„€μ •ν•  수 있으며, 각 μ „λž΅μ˜ μž₯단점을 λΆ„μ„ν•˜μ—¬ νŠΉμ • μ˜ˆμ‚° μ œμ•½ 쑰건 ν•˜μ—μ„œ 졜적의 μ ˆμΆ©μ•ˆμ„ λ„μΆœν•  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
λ‹€μ–‘ν•œ μ˜ˆμ‚° μ œμ•½ 쑰건 ν•˜μ—μ„œ 각 티어링 μ „λž΅μ΄ μ œκ³΅ν•˜λŠ” 이점과 단점을 λͺ…ν™•νžˆ λ°ν˜€, ν–₯ν›„ LLM μ—μ΄μ „νŠΈ λ©”λͺ¨λ¦¬ μ‹œμŠ€ν…œ 섀계에 λŒ€ν•œ μ€‘μš”ν•œ 톡찰을 μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ λΌμš°ν„°κ°€ κ²½λŸ‰ μ‹ κ²½λ§μœΌλ‘œ κ΅¬ν˜„λ˜μ–΄ λŸ°νƒ€μž„ μ˜€λ²„ν—€λ“œλ₯Ό μ€„μ˜€μœΌλ‚˜, λ³΅μž‘ν•œ μΏΌλ¦¬λ‚˜ κ·Ήλ„λ‘œ μ œν•œλœ μ˜ˆμ‚° μƒν™©μ—μ„œμ˜ μ„±λŠ₯ ν•œκ³„λŠ” μΆ”κ°€ 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage