Sign In

Reasoning Provenance for Autonomous AI Agents: Structured Behavioral Analytics Beyond State Checkpoints and Execution Traces

Created by
  • Haebom
Category
Empty

μ €μž

Neelmani Vispute, Aditya Kadam

πŸ’‘ κ°œμš”

자율 AI μ—μ΄μ „νŠΈκ°€ μΈκ°„μ˜ 감독을 λ„˜μ–΄ ν”Œλž«νΌ μΈν”„λΌλ‘œ λ°œμ „ν•¨μ— 따라, μ΄λ“€μ˜ μΆ”λ‘  행동을 λΆ„μ„ν•˜λŠ” λŠ₯λ ₯은 ν•„μˆ˜μ μΈ μš”κ΅¬μ‚¬ν•­μ΄ λ˜μ—ˆμŠ΅λ‹ˆλ‹€. κΈ°μ‘΄ μ‹œμŠ€ν…œμ€ μƒνƒœ μ €μž₯, μ‹€ν–‰ 좔적, μƒν˜Έ μš΄μš©μ„±μ„ μ§€μ›ν•˜μ§€λ§Œ, μ—μ΄μ „νŠΈκ°€ μ™œ νŠΉμ • 행동을 μ„ νƒν•˜κ³ , κ΄€μ°°λ‘œλΆ€ν„° 무엇을 κ²°λ‘  λ‚΄λ ΈμœΌλ©°, κ·Έ 결둠이 μ „λž΅μ— μ–΄λ–»κ²Œ 영ν–₯을 λ―Έμ³€λŠ”μ§€μ— λŒ€ν•œ κ΅¬μ‘°ν™”λœ μΆ”λ‘  좜처(reasoning provenance)λ₯Ό μ œκ³΅ν•˜μ§€λŠ” λͺ»ν•©λ‹ˆλ‹€. λ³Έ 논문은 μ—μ΄μ „νŠΈμ˜ μ˜λ„, κ΄€μ°°, 좔둠을 쿼리 κ°€λŠ₯ν•œ ν•„λ“œλ‘œ κΈ°λ‘ν•˜λŠ” Agent Execution Record(AER)λ₯Ό μ œμ•ˆν•˜λ©°, 이λ₯Ό 톡해 집단 μˆ˜μ€€μ˜ 행동 뢄석을 κ°€λŠ₯ν•˜κ²Œ ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
AI μ—μ΄μ „νŠΈμ˜ μžμœ¨μ„±μ΄ 증가함에 따라, μ˜μ‚¬ κ²°μ • 과정을 투λͺ…ν•˜κ²Œ κΈ°λ‘ν•˜κ³  λΆ„μ„ν•˜λŠ” 'μΆ”λ‘  좜처' κ°œλ…μ˜ μ€‘μš”μ„±μ΄ λΆ€κ°λ©λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ AER은 μ—μ΄μ „νŠΈμ˜ λ³΅μž‘ν•œ μΆ”λ‘  과정을 κ΅¬μ‘°ν™”ν•˜μ—¬, κΈ°μ‘΄ μ‹œμŠ€ν…œμœΌλ‘œ νŒŒμ•…ν•˜κΈ° μ–΄λ €μ› λ˜ 행동 νŒ¨ν„΄ 뢄석, 신뒰도 보정, μ—μ΄μ „νŠΈ κ°„ 비ꡐ 등을 κ°€λŠ₯ν•˜κ²Œ ν•©λ‹ˆλ‹€.
β€’
μΆ”λ‘  μΆœμ²˜λŠ” 계산 μƒνƒœ μ €μž₯μ΄λ‚˜ μ‹€ν–‰ μΆ”μ λ§ŒμœΌλ‘œλŠ” μ™„λ²½ν•˜κ²Œ 볡원될 수 μ—†λ‹€λŠ” 점을 κ°•μ‘°ν•˜λ©°, AER의 ν•„μš”μ„±μ„ μ—­μ„€ν•©λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ AER λͺ¨λΈμ€ νŠΉμ • 도메인에 κ΅­ν•œλ˜μ§€ μ•Šκ³  ν™•μž₯ κ°€λŠ₯ν•˜λ©°, μ‹€μ œ 운영 ν™˜κ²½μ—μ„œμ˜ 적용 κ°€λŠ₯성을 λ³΄μ—¬μ£ΌλŠ” μ˜ˆλΉ„ 평가 κ²°κ³Όκ°€ μ œμ‹œλ˜μ—ˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage