본 논문은 초거대 언어 모델이 자율적인 프로그래머로서 발전함에 따라, 위험한 공격적인 사이버 작전을 자동화할 가능성을 제기합니다. 기존의 최첨단 모델 감사는 이러한 에이전트의 사이버 보안 위험을 조사하지만, 실제 세계에서 적대자에게 주어지는 자유도를 고려하지 못하는 경우가 많습니다. 특히 강력한 검증자와 재정적 인센티브를 통해 공격적인 사이버 보안 에이전트는 잠재적 적대자에 의해 반복적인 개선이 가능합니다. 따라서 본 논문에서는 사이버 보안 맥락에서 확장된 위협 모델을 고려해야 하며, 고정된 컴퓨팅 예산 내에서 상태 유지 및 비상태 유지 환경에서 적대자가 가질 수 있는 다양한 자유도를 강조합니다. 연구에서 상대적으로 적은 컴퓨팅 예산(8 H100 GPU 시간)으로도 적대자가 InterCode CTF에서 에이전트의 사이버 보안 능력을 기준선 대비 40% 이상 향상시킬 수 있음을 보여줍니다. 이는 에이전트의 사이버 보안 위험을 동적인 방식으로 평가해야 함을 강조하며, 보다 현실적인 위험 그림을 제시합니다.
