Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

A DbC Inspired Neurosymbolic Layer for Trustworthy Agent Design

Created by
  • Haebom

저자

Claudiu Leoveanu-Condrei

개요

생성 모델, 특히 대규모 언어 모델(LLM)은 유창한 출력을 생성하지만 검증 가능한 보증이 부족하다. 본 논문은 Design by Contract(DbC) 및 형식 이론 원리를 채택하여 모든 LLM 호출을 중재하는 계약 계층을 도입한다. 계약은 입력 및 출력에 대한 의미적 및 유형 요구 사항을 규정하며, 규정 준수를 향하도록 생성을 유도하기 위한 확률적 수정과 결합된다. 이 계층은 LLM을 의미적 파서 및 확률적 블랙박스 구성 요소의 이중적 관점으로 노출한다. 계약 만족은 확률적이며 의미적 유효성 검사는 프로그래머가 지정한 잘 유형화된 데이터 구조에 대한 조건을 통해 작동적으로 정의된다. 더 나아가, 이 연구는 동일한 계약을 만족하는 두 에이전트는 해당 계약과 관련하여 기능적으로 동등하다는 가정을 제시한다.

시사점, 한계점

LLM의 출력을 검증하고 제어하기 위한 새로운 프레임워크 제시: 계약 계층을 통해 의미적 및 유형 요구 사항을 적용하고, 확률적 수정을 통해 규정 준수를 유도.
LLM을 의미적 파서 및 확률적 블랙박스 구성 요소로 보는 이중적 관점 제시.
계약 만족은 확률적이며, 의미적 유효성 검사는 프로그래머가 지정한 조건을 통해 정의.
두 에이전트가 동일한 계약을 만족하면 기능적으로 동등하다는 가설 제시.
(한계점은 논문에 명시되지 않음)
👍