Sign In

Improving LLM Reliability through Hybrid Abstention and Adaptive Detection

Created by
  • Haebom
Category
Empty

μ €μž

Ankit Sharma, Nachiket Tapas, Jyotiprakash Patra

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” LLM의 μ•ˆμ „μ„±κ³Ό μœ μš©μ„± μ‚¬μ΄μ˜ κ· ν˜• 문제λ₯Ό ν•΄κ²°ν•˜κΈ° μœ„ν•΄ 동적 μ•ˆμ „ μž„κ³„κ°’ 섀정을 μ œμ•ˆν•©λ‹ˆλ‹€. μ œμ•ˆλœ ν”„λ ˆμž„μ›Œν¬λŠ” 도메인 및 μ‚¬μš©μž 기둝과 같은 μ‹€μ‹œκ°„ λ§₯락 μ‹ ν˜Έμ— κΈ°λ°˜ν•˜μ—¬ μ•ˆμ „ μž„κ³„κ°’μ„ μ‘°μ •ν•˜κ³ , 5개의 병렬 νƒμ§€κΈ°λ‘œ κ΅¬μ„±λœ 닀차원 탐지 μ•„ν‚€ν…μ²˜λ₯Ό 계측적 μΊμŠ€μΌ€μ΄λ“œ λ©”μ»€λ‹ˆμ¦˜μœΌλ‘œ ν†΅ν•©ν•˜μ—¬ 속도와 정확성을 μ΅œμ ν™”ν•©λ‹ˆλ‹€. 이λ₯Ό 톡해 κΈ°μ‘΄ 방식 λŒ€λΉ„ μƒλ‹Ήν•œ 지연 μ‹œκ°„ κ°œμ„ κ³Ό μ˜€νƒ κ°μ†Œλ₯Ό λ‹¬μ„±ν•˜λ©°, μ•ˆμ „μ„±κ³Ό μœ μš©μ„± κ°„μ˜ 효과적인 κ· ν˜•μ„ μ œκ³΅ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM의 λ§₯락을 μΈμ§€ν•˜λŠ” μ μ‘ν˜• 기ꢌ(abstention) μ‹œμŠ€ν…œμ€ μ•ˆμ „μ„±κ³Ό μœ μš©μ„± μ‚¬μ΄μ˜ 근본적인 κ· ν˜• 문제λ₯Ό ν•΄κ²°ν•  수 μžˆλŠ” ν™•μž₯ κ°€λŠ₯ν•œ μ†”λ£¨μ…˜μ„ μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
계측적 μΊμŠ€μΌ€μ΄λ“œ λ°©μ‹μ˜ 탐지기 톡합은 λΆˆν•„μš”ν•œ 연산을 쀄여 지연 μ‹œκ°„μ„ 크게 κ°œμ„ ν•˜λ©΄μ„œλ„ 높은 정확성을 μœ μ§€ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ μ‹œμŠ€ν…œμ€ λ―Όκ°ν•œ λ„λ©”μΈμ—μ„œ μ˜€νƒμ„ ν˜„μ €νžˆ μ€„μ΄μ§€λ§Œ, νŠΉμ • λ³΅μž‘ν•˜κ±°λ‚˜ μ˜ˆμƒμΉ˜ λͺ»ν•œ μž…λ ₯에 λŒ€ν•œ 탐지 μ„±λŠ₯은 좔가적인 연ꡬ가 ν•„μš”ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage