Epistemic Artificial Intelligence is Essential for Machine Learning Models to Truly 'Know When They Do Not Know'
Created by
Haebom
저자
Shireen Kudukkil Manchingal, Andrew Bradley, Julian F. P. Kooij, Keivan Shariatmadar, Neil Yorke-Smith, Fabio Cuzzolin
개요
본 논문은 생성 및 대규모 언어 모델의 최근 발전에도 불구하고, AI 시스템이 불확실성을 처리하고 훈련 데이터를 넘어 일반화하는 능력에 상당한 차이가 있다는 점을 지적합니다. 기존 머신러닝 접근 방식은 데이터 적합에 지나치게 치중하여 이 문제를 해결하는 데 어려움을 겪고 있으며, 현재의 불확실성 정량화 접근 방식은 심각한 한계를 가지고 있습니다. 따라서 본 논문은 인식론적 인공지능(Epistemic AI)으로의 패러다임 전환을 제시하며, 두 번째 순서의 불확실성 측정값의 수학을 사용하여 모델이 자신이 아는 것으로부터 배우는 동시에 자신의 무지를 인식해야 할 필요성을 강조합니다. 이러한 측정값의 표현력을 활용하여 불확실성을 효율적으로 관리하는 이 접근 방식은 AI 시스템의 복원력과 강건성을 향상시켜 예측할 수 없는 실제 환경을 더 잘 처리할 수 있도록 합니다.
시사점, 한계점
•
시사점:
◦
인식론적 인공지능(Epistemic AI) 패러다임 전환을 제시하여 AI 시스템의 불확실성 처리 능력 향상에 대한 새로운 방향을 제시합니다.
◦
두 번째 순서의 불확실성 측정값을 활용하여 AI 시스템의 강건성 및 복원력을 향상시킬 수 있는 효과적인 방법을 제공합니다.
◦
예측 불가능한 실제 환경에서 AI 시스템의 성능을 향상시킬 수 있는 잠재력을 제시합니다.
•
한계점:
◦
제시된 패러다임 전환의 구체적인 구현 방법 및 알고리즘에 대한 자세한 설명이 부족합니다.
◦
두 번째 순서의 불확실성 측정값을 효율적으로 계산하고 관리하는 방법에 대한 추가적인 연구가 필요합니다.
