Where Is the Cost of Third-Party API Routers in Agentic Software Development?
작성자
카테고리
Empty
저자
Donghao Fu, Jingxin Li, Xue Jiang, Yihong Dong
💡 개요
본 연구는 LLM 제공업체 간의 접근을 통일하는 제3자 API 라우터가 코딩 에이전트 워크플로우에서 신뢰 경로에 존재하며 발생하는 보안 문제를 탐구합니다. 응답 대체, 추가, LLM 기반 주입 등 네 가지 수준의 라우터 측 주입 공격을 실험적으로 평가하고, 이를 탐지하고 방어하기 위한 SIDEL 프레임워크를 개발했습니다. 실험 결과, 라우터 측 개입은 리포지토리 수준의 작업에 상당한 영향을 미치며 기존 클라이언트 측 보안 메커니즘으로는 탐지하기 어렵다는 것을 보여줍니다.
🔑 시사점 및 한계
•
제3자 API 라우터는 현재 코딩 에이전트 워크플로우에서 신뢰 경로상에 존재하며, 이는 에이전트와 LLM 제공업체 간의 통신을 감시하고 조작할 수 있는 잠재적 보안 취약점을 야기합니다.
•
기존의 클라이언트 측 보안 메커니즘은 라우터 측에서 발생하는 미묘한 조작을 탐지하고 방어하는 데 한계가 있으며, 공격은 심지어 LLM 자체를 활용하여 탐지 가능성을 더욱 낮출 수 있습니다.
•
현재의 방어 기법들은 공격에 대한 저항력을 향상시키지만, 완전한 엔드투엔드 제어권을 복원하지는 못하므로, LLM 제공업체 차원에서의 출력 무결성 보장이 필요합니다.
