Tool Calling is Linearly Readable and Steerable in Language Models
Author
- Haebom
Category
Empty
저자
Zekun Wu (University College London), Ze Wang (University College London), Seonglae Cho (Holistic AI), Yufei Yang (Imperial College London), Adriano Koshiyama (University College London), Sahan Bulathwela (University College London), Maria Perez-Ortiz (University College London)
💡 개요
본 논문은 언어 모델이 도구를 선택하는 과정이 활성화 공간 내 단일 방향으로 선형적으로 표현되며, 이 방향을 조작함으로써 도구 선택을 제어할 수 있음을 보여줍니다. 제안된 방법은 12개의 지시 튜닝 모델과 6개의 기본 모델에 걸쳐 83-100%의 정확도로 도구 호출을 성공적으로 변경하거나 예측할 수 있음을 입증했습니다. 이는 실행 전에 잘못된 도구 호출로 인한 잠재적 피해를 방지하는 새로운 길을 열어줍니다.
🔑 시사점 및 한계
•
언어 모델의 내부적인 도구 선택 메커니즘을 투명하게 이해하고 제어할 수 있는 새로운 방법을 제시합니다.
•
도구 호출 오류를 실행 전에 감지하고 수정함으로써 AI 에이전트의 신뢰성과 안전성을 향상시킬 수 있습니다.
•
본 연구는 단일 턴, 고정 메뉴 환경에 국한되며, 다중 턴 에이전트 루프에서는 개입의 안정성이 낮아 추가 연구가 필요합니다.
