본 논문은 대규모 언어 모델(LLM)의 동작 제어, 특히 정확성과 신뢰성이 중요한 엔지니어링 애플리케이션에서의 제어 문제를 다룹니다. 미세 조정 및 프롬프트 방법의 한계를 지적하며, 추론 시간 개입 기법을 대안으로 제시합니다. 모델 기반 시스템 엔지니어링(MBSE)의 요구사항 검증 프로세스 자동화에 이 기법을 적용하여, 우주 임무의 Capella SysML 모델을 사용한 실험을 통해 개입된 LLM이 모델의 그래프 표현을 통해 요구사항 충족 여부를 판단하는 것을 보여줍니다. 일부 특정 어텐션 헤드(1~3개)를 수정하여 모델의 동작을 크게 변경하고, 자기 일관성과 결합하여 검증 집합에서 완벽한 정확도를 달성했습니다. 기존 모델 및 미세 조정 방법보다 성능이 크게 향상됨을 확인했습니다.
