Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Towards Automating Data Access Permissions in AI Agents

Created by
  • Haebom
Category
Empty

저자

Yuhao Wu, Ke Yang, Franziska Roesner, Tadayoshi Kohno, Ning Zhang, Umar Iqbal

개요

AI 에이전트가 사용자를 대신하여 자율적으로 행동하면서 투명성과 통제 문제점을 야기한다. 본 논문은 사용자에게 의미 있는 통제를 제공하기 위해 허가 기반 접근 제어가 필수적이라고 주장하며, 자동화된 에이전트 실행 패러다임에 기존의 허가 모델이 부적절하다고 본다. 따라서 AI 에이전트를 위한 자동화된 허가 관리를 제안한다. 핵심 아이디어는 사용자 연구를 통해 사용자의 허가 결정에 영향을 미치는 요인을 식별하고, 이러한 요인을 ML 기반 허가 관리 어시스턴트에 인코딩하여 사용자의 미래 결정을 예측하는 것이다. 연구 결과, 사용자의 허가 결정은 커뮤니케이션 맥락의 영향을 받지만, 개인별 선호도는 맥락 내에서 일관성을 유지하고 다른 참여자와 일치하는 경향이 있음을 확인했다. 이러한 통찰력을 바탕으로, 전반적으로 85.1%의 정확도와 고신뢰도 예측에서 94.4%의 정확도를 달성하는 허가 예측 모델을 개발했다. 허가 기록을 사용하지 않아도 모델은 66.9%의 정확도를 달성하며, 훈련 샘플을 약간 증가(1-4개)시켜도 정확도를 10.8% 향상시킬 수 있음을 확인했다.

시사점, 한계점

시사점:
사용자에게 의미 있는 통제를 제공하기 위한 자동화된 허가 관리 시스템 제안.
사용자의 허가 결정에 영향을 미치는 요인(커뮤니케이션 맥락, 개인 선호도) 식별.
ML 기반 허가 예측 모델 개발 및 높은 정확도 달성 (85.1%, 고신뢰도 예측 시 94.4%).
허가 기록 없이도 높은 정확도 달성 가능하며, 적은 수의 훈련 샘플 증가로도 성능 향상.
한계점:
구체적인 한계점은 논문 내용에서 명시되지 않음. (예: 특정 상황에서의 모델 성능 저하, 개인 정보 보호 문제 등)
👍