Sign In

Measuring the Fragility of Trust: Devising Credibility Index via Explanation Stability (CIES) for Business Decision Support Systems

Created by
  • Haebom
Category
Empty

μ €μž

Alin-Gabriel Vaduva, Simona-Vasilica Oprea, Adela Bara

πŸ’‘ κ°œμš”

λ³Έ 논문은 λΉ„μ¦ˆλ‹ˆμŠ€ μ˜μ‚¬κ²°μ • 지원 μ‹œμŠ€ν…œμ—μ„œ μ‚¬μš©λ˜λŠ” μ„€λͺ… κ°€λŠ₯ν•œ AI(XAI) λ°©λ²•λ‘ μ˜ μ„€λͺ… 신뒰도λ₯Ό μΈ‘μ •ν•˜κΈ° μœ„ν•œ μƒˆλ‘œμš΄ μ§€ν‘œμΈ CIES(Credibility Index via Explanation Stability)λ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. CIESλŠ” ν˜„μ‹€μ μΈ 데이터 λ…Έμ΄μ¦ˆ ν•˜μ—μ„œ λͺ¨λΈμ˜ μ„€λͺ…이 μ–Όλ§ˆλ‚˜ μΌκ΄€λ˜κ³  κ²¬κ³ ν•œμ§€λ₯Ό μˆ˜ν•™μ μœΌλ‘œ μΈ‘μ •ν•˜λ©°, 예츑 자체뿐만 μ•„λ‹ˆλΌ 예츑의 κ·Όκ±°κ°€ λ˜λŠ” 이유의 μ•ˆμ •μ„±μ„ ν¬μ°©ν•©λ‹ˆλ‹€. μ‹€ν—˜ κ²°κ³Ό, CIESλŠ” λ‹€μ–‘ν•œ λͺ¨λΈ, 데이터셋, λΆˆκ· ν˜• 데이터 처리 λ°©μ‹μ—μ„œ κΈ°μ‘΄ μ§€ν‘œλ³΄λ‹€ ν†΅κ³„μ μœΌλ‘œ μš°μˆ˜ν•œ μ„€λͺ… μ•ˆμ •μ„± νŒλ³„ λŠ₯λ ₯을 λ³΄μ˜€μŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μ„€λͺ… μ•ˆμ •μ„±μ˜ μ€‘μš”μ„± 뢀각: AI λͺ¨λΈμ˜ 예츑 μ„±λŠ₯뿐만 μ•„λ‹ˆλΌ, κ·Έ 예츑의 κ·Όκ±°κ°€ λ˜λŠ” μ„€λͺ…μ˜ μ•ˆμ •μ„±μ΄ λΉ„μ¦ˆλ‹ˆμŠ€ μ˜μ‚¬κ²°μ •μ˜ 신뒰도에 직접적인 영ν–₯을 λ―ΈμΉœλ‹€λŠ” 점을 λ³΄μ—¬μ€λ‹ˆλ‹€.
β€’
μ‹€μš©μ μΈ 신뒰도 μΈ‘μ • 도ꡬ 제곡: CIESλŠ” λΉ„μ¦ˆλ‹ˆμŠ€ ν™˜κ²½μ—μ„œ λ°œμƒν•˜λŠ” ν˜„μ‹€μ μΈ λ…Έμ΄μ¦ˆλ₯Ό κ³ λ €ν•˜μ—¬ AI μ‹œμŠ€ν…œμ˜ μ„€λͺ…에 λŒ€ν•œ "신뒰도 κ²½κ³  μ‹œμŠ€ν…œ" 역할을 ν•  수 μžˆλŠ” μ‹€μš©μ μΈ 도ꡬλ₯Ό μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
λͺ¨λΈ λ³΅μž‘μ„± 및 데이터 λΆˆκ· ν˜•μ˜ 영ν–₯: λͺ¨λΈμ˜ λ³΅μž‘μ„±μ΄ μ„€λͺ…μ˜ 신뒰도에 영ν–₯을 미치며, SMOTE와 같은 데이터 λΆˆκ· ν˜• 처리 기법이 예츑 μ„±λŠ₯뿐만 μ•„λ‹ˆλΌ μ„€λͺ…μ˜ μ•ˆμ •μ„±μ—λ„ 영ν–₯을 쀄 수 μžˆμŒμ„ ν™•μΈν–ˆμŠ΅λ‹ˆλ‹€.
β€’
ν•œκ³„μ : CIES의 νš¨μœ¨μ„± 및 ν™•μž₯성이 더 λ‹€μ–‘ν•œ μœ ν˜•μ˜ AI λͺ¨λΈ(예: λ”₯λŸ¬λ‹) 및 더 λ³΅μž‘ν•œ λΉ„μ¦ˆλ‹ˆμŠ€ μ‹œλ‚˜λ¦¬μ˜€μ— 적용될 λ•Œ 좔가적인 검증이 ν•„μš”ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage