White-Basilisk는 소프트웨어 취약점 탐지를 위한 새로운 접근 방식을 제시하는 논문입니다. Mamba 레이어, 선형 자기 주의 메커니즘, 전문가 혼합 프레임워크를 통합한 혁신적인 아키텍처를 사용하여, 파라미터 수가 2억 개에 불과하면서도 최첨단의 취약점 탐지 성능을 달성합니다. 기존의 대규모 언어 모델(LLM)의 컨텍스트 제한을 뛰어넘어, 매우 긴 코드 시퀀스를 단일 패스로 처리할 수 있으며, 불균형적인 실제 데이터셋에서도 강력한 성능을 보여줍니다. 이 연구는 코드 보안 분야의 새로운 기준을 제시할 뿐만 아니라, 특정 분야의 애플리케이션에 대한 AI 개발에서 최적화 전략을 재정의할 수 있는 잠재력을 가진, 효율적으로 설계된 소형 모델이 대규모 모델보다 성능이 뛰어날 수 있음을 실증적으로 보여줍니다.
