Exploring Human-AI Collaboration Using Mental Models of Early Adopters of Multi-Agent Generative AI Tools
작성자
- Haebom
카테고리
Empty
저자
Suchismita Naik, Austin L. Toombs, Amanda Snellinger, Scott Saponas, Amanda K. Hall
개요
본 연구는 Microsoft의 초기 다중 에이전트 생성형 AI(Gen AI) 기술 도입자 및 개발자들이 해당 기술을 어떻게 개념화하는지 조사했다. 13명의 개발자와의 반구조화된 인터뷰를 통해, 인간-AI 협업 메커니즘, 일반적인 협업 역학, AI 도구의 투명성에 대한 이해를 탐구했다. 연구 결과, 초기 도입자들은 다중 에이전트 시스템을 인간 협업 모델과 유사하게 구성된 역할 기반 및 작업 기반 에이전트 "팀"으로 인식하며, AI 주도에서 AI 지원, 사용자 제어 상호작용까지 다양한 범위를 포괄했다. 주요 문제점으로는 오류 전파, 예측 불가능한 에이전트 루프 동작, 그리고 계층적 투명성 문제를 완화하기 위한 명확한 의사소통의 필요성이 확인되었다. 또한, 투명성은 신뢰 구축, 오류 확인 및 추적, 오용, 오류, 정보 유출 방지에 중요한 역할을 하는 것으로 나타났다.
시사점, 한계점
•
시사점:
◦
다중 에이전트 시스템을 "팀"으로 인식하는 개념은 인간-AI 협업 모델에 대한 이해를 높인다.
◦
다양한 AI 상호작용 방식(AI 주도, AI 지원, 사용자 제어)을 지원하는 협업 메커니즘 설계에 기여한다.
◦
인간-에이전트 및 에이전트-에이전트 상호작용에서 투명성 및 감독 전략의 중요성을 강조한다.
◦
역할 다양성을 갖춘 동적 협업자로서의 다중 에이전트 시스템에 대한 이해를 돕는다.
•
한계점:
◦
연구 대상이 Microsoft 개발자 13명으로 제한되어 일반화에 한계가 있다.
◦
오류 전파, 예측 불가능한 에이전트 루프 동작 등의 기술적 문제에 대한 해결책은 제시되지 않았다.
◦
연구 결과가 CSCW(Computer-Supported Cooperative Work) 연구 분야에 국한되어 다른 분야로의 확장 가능성에 대한 논의는 미흡하다.
