Enhancing Trust in Autonomous Agents: An Architecture for Accountability and Explainability through Blockchain and Large Language Models
Created by
Haebom
저자
Laura Fernandez-Becerra, Miguel Angel Gonzalez-Santamarta, Angel Manuel Guerrero-Higueras, Francisco Javier Rodriguez-Lera, Vicente Matellan Olivera
개요
본 논문은 인간과 상호작용하는 환경에서 자율 에이전트의 배치와 관련된 보안 문제를 해결하기 위해 ROS 기반 모바일 로봇을 위한 책임성과 설명 가능성 아키텍처를 제시한다. 이 아키텍처는 블록체인 기술을 활용한 변조 방지 기능을 갖춘 블랙박스와 같은 책임성 요소와, 블랙박스 내 데이터를 기반으로 대규모 언어 모델(LLM)을 활용하여 자연어 설명을 생성하는 요소로 구성된다. 세 가지 자율 에이전트 탐색 시나리오를 통해 책임성 및 설명 가능성 지표를 평가하여 실제 환경에서 자율 에이전트 사용의 어려움에도 불구하고 일관성 있고 정확하며 이해하기 쉬운 설명을 얻는 데 효과적인 접근 방식임을 보여준다.
시사점, 한계점
•
시사점:
◦
블록체인과 LLM을 결합하여 자율 에이전트의 책임성과 설명 가능성을 향상시키는 새로운 아키텍처를 제시한다.
◦
실제 환경에서의 자율 에이전트 작동에 대한 이해 가능하고 신뢰할 수 있는 설명을 제공한다.
◦
자율 에이전트와 사용자 간의 효과적인 의사소통을 향상시킨다.
◦
안전하고 신뢰할 수 있는 자율 에이전트 시스템 개발에 기여한다.
•
한계점:
◦
제시된 아키텍처의 성능 평가가 특정 시나리오에 국한되어 일반화 가능성에 대한 추가 연구가 필요하다.
◦
LLM의 설명 생성 과정의 신뢰성 및 편향성 문제에 대한 추가적인 검토가 필요하다.
◦
블록체인 기술의 적용으로 인한 성능 저하 및 비용 증가에 대한 고려가 필요하다.
◦
다양한 유형의 자율 에이전트 및 환경에 대한 적용 가능성 및 일반화 가능성에 대한 추가적인 연구가 필요하다.
