Actionable AI: Enabling Non Experts to Understand and Configure AI Systems
Created by
- Haebom
Category
Empty
저자
Cecile Boulard, Sruthi Viswanathan, Wanda Fey, Thierry Jacquin
개요
본 논문은 전문가가 아닌 사용자들이 블랙박스 AI 에이전트를 직접 조작하여 구성할 수 있도록 하는 'Actionable AI'를 제안한다. 카트폴 게임을 이용한 실험에서 22쌍의 참가자들이 AI 에이전트의 행동을 직접 조작하여 목표를 달성하는 과정을 관찰하였다. 그 결과, 불확실한 상황에서도 비전문가들이 상당한 수준의 성능을 달성하였으며, 에이전트의 행동에 영향을 미침으로써 에이전트에 대한 작동적 이해를 보였다는 것을 확인하였다. 이를 바탕으로 Actionable AI 시스템 설계에 대한 시사점을 도출하고, Actionable AI가 최종 사용자에게 AI 기반 에이전트에 대한 접근성을 높이고 사용자 스스로 에이전트를 목표에 맞게 조정할 수 있도록 하는 방법을 제시한다.
시사점, 한계점
•
시사점:
◦
비전문가도 직접 조작을 통해 블랙박스 AI 에이전트를 효과적으로 활용할 수 있음을 보여줌.
◦
Actionable AI는 사용자에게 AI 에이전트에 대한 통제력을 부여하여 접근성을 향상시킬 수 있음.
◦
사용자의 에이전트 조작 과정을 통해 사용자의 작동적 이해를 도출할 수 있음.
•
한계점:
◦
카트폴 게임이라는 특정 게임 환경에서만 실험이 진행되어 일반화 가능성에 대한 검토가 필요함.
◦
참가자 수가 22쌍으로 상대적으로 적어 추가적인 연구가 필요함.
◦
다양한 유형의 AI 에이전트와 사용자 그룹에 대한 연구가 추가적으로 필요함.
◦
Actionable AI 시스템 설계에 대한 구체적인 가이드라인 제시 부족.
