AI 구성 요소, 특히 딥 뉴럴 네트워크(DNN)를 항공우주 및 자율주행차와 같은 안전 필수 시스템에 통합하는 것은 보장에 대한 근본적인 과제를 제시합니다. AI 시스템의 불투명성과 고수준 요구사항과 저수준 네트워크 표현 간의 의미론적 격차는 기존의 검증 접근 방식에 장벽을 만듭니다. 이러한 AI 관련 과제는 자연어 명세의 모호성과 형식화의 확장성 병목 현상을 포함하여 요구사항 엔지니어링의 오랜 문제로 인해 증폭됩니다. 우리는 AI 자체를 활용하여 두 가지 보완적인 구성 요소를 통해 이러한 과제를 해결하는 접근 방식을 제안합니다. REACT(일관성 및 테스트를 위한 AI를 사용한 요구사항 엔지니어링)는 대규모 언어 모델(LLM)을 사용하여 비공식적인 자연어 요구사항과 공식 명세 사이의 격차를 해소하여 조기 검증 및 유효성 검사를 가능하게 합니다. SemaLens(대규모 멀티모달 모델을 사용한 시각적 인식의 의미론적 분석)는 비전 언어 모델(VLM)을 사용하여 인간이 이해할 수 있는 개념을 사용하여 DNN 기반 지각 시스템에 대해 추론, 테스트 및 모니터링합니다. 이러한 구성 요소는 비공식 요구사항에서 검증된 구현까지 포괄적인 파이프라인을 제공합니다.
