Sign In

What Happens Inside Agent Memory? Circuit Analysis from Emergence to Diagnosis

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Xutao Mao, Jinman Zhao, Gerald Penn, Cong Wang

πŸ’‘ κ°œμš”

λ³Έ 논문은 LLM 기반 μ—μ΄μ „νŠΈμ˜ λ©”λͺ¨λ¦¬ 였λ₯˜κ°€ κ²‰μœΌλ‘œ λ“œλŸ¬λ‚˜μ§€ μ•ŠλŠ”λ‹€λŠ” λ¬Έμ œμ μ„ ν•΄κ²°ν•˜κΈ° μœ„ν•΄, λ©”λͺ¨λ¦¬ λ‚΄λΆ€μ˜ μ—°μ‚° 회둜λ₯Ό λΆ„μ„ν–ˆμŠ΅λ‹ˆλ‹€. Qwen-3 λͺ¨λΈκ³Ό 두 가지 λ©”λͺ¨λ¦¬ ν”„λ ˆμž„μ›Œν¬λ₯Ό λŒ€μƒμœΌλ‘œ ν•œ 회둜 뢄석을 톡해, μ—μ΄μ „νŠΈ λ©”λͺ¨λ¦¬ μž‘λ™ λ©”μ»€λ‹ˆμ¦˜μ„ 규λͺ…ν•˜κ³ , 이λ₯Ό 기반으둜 λ©”λͺ¨λ¦¬ 였λ₯˜λ₯Ό νƒμ§€ν•˜λŠ” unsupervised 진단 도ꡬλ₯Ό κ°œλ°œν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
초기 λ‹¨κ³„μ—μ„œμ˜ μ œμ–΄ 회둜 ν™œμ„±ν™”: μž‘μ€ λͺ¨λΈμ—μ„œλ„ 정보 μ²˜λ¦¬λ³΄λ‹€λŠ” 정보 경둜λ₯Ό κ²°μ •ν•˜λŠ” μ œμ–΄ νšŒλ‘œκ°€ λ¨Όμ € ν™œμ„±ν™”λ˜λŠ” 것을 λ°œκ²¬ν–ˆμŠ΅λ‹ˆλ‹€. μ΄λŠ” μž‘μ€ λͺ¨λΈμ΄ μ •ν™•ν•œ 정보 μΆ”μΆœ λŠ₯λ ₯ 없이도 λ©”λͺ¨λ¦¬ 결정에 영ν–₯을 λ―ΈμΉ  수 μžˆμŒμ„ μ‹œμ‚¬ν•©λ‹ˆλ‹€.
β€’
κΈ°μ‘΄ μ»¨ν…μŠ€νŠΈ 이해 회둜의 μž¬ν™œμš©: λ©”λͺ¨λ¦¬ μ“°κΈ° 및 읽기 κ³Όμ •μ—μ„œ μƒˆλ‘œμš΄ 회둜λ₯Ό λ§Œλ“€κΈ°λ³΄λ‹€, 이미 μ‘΄μž¬ν•˜λŠ” μ»¨ν…μŠ€νŠΈ 이해 회둜λ₯Ό ν™œμš©ν•¨μ„ λ°ν˜”μŠ΅λ‹ˆλ‹€. μ΄λŠ” λͺ¨λΈμ˜ νš¨μœ¨μ„±μ„ λ†’μ΄λŠ” 방식일 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
νŠΉμ • μΈν„°νŽ˜μ΄μŠ€μ— 독립적인 λ‚΄λΆ€ 계산: μ œμ•ˆλœ λ°œκ²¬λ“€μ€ νŠΉμ • λ©”λͺ¨λ¦¬ ν”„λ ˆμž„μ›Œν¬μ— κ΅­ν•œλ˜μ§€ μ•Šκ³ , 기반 λͺ¨λΈ 자체의 νŠΉμ„±μž„μ„ ν™•μΈν–ˆμŠ΅λ‹ˆλ‹€.
β€’
unsupervised 진단 λ„κ΅¬μ˜ 높은 정확도: 개발된 진단 도ꡬ가 지도 ν•™μŠ΅ 기반 λͺ¨λΈλ³΄λ‹€ μš°μˆ˜ν•œ μ„±λŠ₯으둜 λ©”λͺ¨λ¦¬ 였λ₯˜λ₯Ό νƒμ§€ν•˜μ—¬, μ—μ΄μ „νŠΈ λ©”λͺ¨λ¦¬ λͺ¨λ‹ˆν„°λ§ 및 섀계에 μ‹€μ§ˆμ μΈ 도움을 쀄 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
좔가적인 λͺ¨λΈ 및 ν”„λ ˆμž„μ›Œν¬μ—μ„œμ˜ 검증 ν•„μš”: λ³Έ μ—°κ΅¬μ˜ κ²°κ³Όκ°€ λ‹€λ₯Έ LLM μ•„ν‚€ν…μ²˜ 및 λ©”λͺ¨λ¦¬ ν”„λ ˆμž„μ›Œν¬μ—μ„œλ„ λ™μΌν•˜κ²Œ μ μš©λ˜λŠ”μ§€μ— λŒ€ν•œ 좔가적인 검증이 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage