Sign In

From Features to Actions: Explainability in Traditional and Agentic AI Systems

Created by
  • Haebom
Category
Empty

μ €μž

Sindhuja Chaduvula, Jessee Ho, Kina Kim, Aravind Narayanan, Mahshid Alinoori, Muskan Garg, Dhanesh Ramachandram, Shaina Raza

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” κΈ°μ‘΄ AI μ‹œμŠ€ν…œμ˜ 예츑 결과에 λŒ€ν•œ μ„€λͺ… κ°€λŠ₯μ„± 연ꡬ가 주둜 단일 μ˜ˆμΈ‘μ— μ§‘μ€‘λ˜μ—ˆλ˜ ν•œκ³„λ₯Ό μ§€μ ν•˜κ³ , LLM 기반의 μ—μ΄μ „νŠΈ μ‹œμŠ€ν…œμ—μ„œ λ°œμƒν•˜λŠ” 닀단계 μ˜μ‚¬κ²°μ • 과정에 λŒ€ν•œ μ„€λͺ… κ°€λŠ₯μ„± 방법둠을 νƒκ΅¬ν•©λ‹ˆλ‹€. 전톡적인 속성 기반 μ„€λͺ… 방식과 μ—μ΄μ „νŠΈ μ‹œμŠ€ν…œμ˜ ꢀ적(trajectory) 기반 진단 방식을 비ꡐ λΆ„μ„ν•˜μ—¬, μ—μ΄μ „νŠΈ μ‹œμŠ€ν…œμ˜ μ‹€νŒ¨ 원인 μ§„λ‹¨μ—λŠ” ꢀ적 μˆ˜μ€€μ˜ μ„€λͺ… κ°€λŠ₯성이 ν•„μˆ˜μ μž„μ„ μ œμ‹œν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
전톡적인 속성 기반 μ„€λͺ… 방식은 정적인 λΆ„λ₯˜ μž‘μ—…μ—μ„œλŠ” μœ νš¨ν•˜μ§€λ§Œ, 닀단계 μ˜μ‚¬κ²°μ •μ„ μˆ˜ν–‰ν•˜λŠ” μ—μ΄μ „νŠΈ μ‹œμŠ€ν…œμ˜ μ‹€ν–‰ μ‹€νŒ¨λ₯Ό μ§„λ‹¨ν•˜λŠ” λ°λŠ” 신뒰성이 λ–¨μ–΄μ§‘λ‹ˆλ‹€.
β€’
μ—μ΄μ „νŠΈ μ‹œμŠ€ν…œμ˜ μ‹€νŒ¨ 원인을 규λͺ…ν•˜κΈ° μœ„ν•΄ ꢀ적 기반의 진단 및 평가 방식이 ν•„μš”ν•˜λ©°, 특히 μƒνƒœ μΆ”μ μ˜ λΆˆμΌμΉ˜κ°€ μ‹€νŒ¨ ν™•λ₯ μ„ 크게 λ†’μ΄λŠ” μš”μΈμž„μ„ λ°œκ²¬ν–ˆμŠ΅λ‹ˆλ‹€.
β€’
λ³Έ μ—°κ΅¬λŠ” νŠΉμ • μ—μ΄μ „νŠΈ 벀치마크(TAU-bench Airline, AssistantBench)λ₯Ό μ€‘μ‹¬μœΌλ‘œ μ‹€ν—˜μ΄ μ΄λ£¨μ–΄μ‘ŒμœΌλ―€λ‘œ, λ‹€μ–‘ν•œ μ—μ΄μ „νŠΈ μ‹œμŠ€ν…œκ³Ό λ³΅μž‘ν•œ ν™˜κ²½μ—μ„œμ˜ 적용 κ°€λŠ₯성에 λŒ€ν•œ μΆ”κ°€ 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage