안전 필수 응용 분야에서 인공 지능 시스템의 신뢰성은 중요한 요구 사항이 되었습니다. 이 논문은 주관적 논리(SL)를 사용하여 신경망의 신뢰성을 모델링하고 전파하는 프레임워크인 병렬 신뢰 평가 시스템(PaTAS)을 소개합니다. PaTAS는 입력, 매개변수 및 활성화 신뢰도를 네트워크 전체에서 전파하는 신뢰 노드와 신뢰 기능을 통해 표준 신경 계산과 병렬로 작동합니다. 이 프레임워크는 훈련 중 매개변수 신뢰도를 개선하기 위한 매개변수 신뢰도 업데이트 메커니즘과 추론 시 인스턴스별 신뢰도를 계산하기 위한 추론 경로 신뢰도 평가(IPTA) 방법을 정의합니다. 실제 및 적대적 데이터 세트에 대한 실험 결과는 PaTAS가 정확도를 보완하고, 독성, 편향 또는 불확실한 데이터 시나리오에서 신뢰성 격차를 드러내는 해석 가능하고 대칭적이며 수렴하는 신뢰도 추정치를 생성함을 보여줍니다. PaTAS는 신경 아키텍처 내에서 투명하고 정량화 가능한 신뢰 추론을 가능하게 함으로써 AI 수명 주기 전반에 걸쳐 모델 신뢰성을 평가하기 위한 원칙적인 기반을 제공합니다.
