Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Document Retrieval Augmented Fine-Tuning (DRAFT) for safety-critical software assessments

Created by
  • Haebom
Category
Empty

저자

Regan Bolton, Mohammadreza Sheikhfathollahi, Simon Parkinson, Vanessa Vulovic, Gary Bamford, Dan Basher, Howard Parkinson

개요

본 논문은 안전 중요 소프트웨어 평가를 위한 새로운 접근 방식인 Document Retrieval-Augmented Fine-Tuning (DRAFT)을 제시합니다. DRAFT는 대규모 언어 모델(LLM)을 활용하여 복잡한 규제 프레임워크에 대한 안전 중요 소프트웨어의 준수 여부를 평가하는 기존의 수동 평가 방식의 한계를 극복하고자 합니다. 기존의 Retrieval-Augmented Generation (RAG) 기술을 기반으로, 소프트웨어 문서와 관련 규정 표준을 동시에 참조하는 이중 검색 아키텍처를 도입한 새로운 미세 조정 프레임워크를 제시합니다. 실제 평가 시나리오를 반영하여 다양한 수의 관련 문서와 의미 있는 오답을 포함하는 반자동 데이터셋 생성 방법론을 개발하여 DRAFT를 미세 조정했습니다. GPT-4o-mini를 사용한 실험 결과, 기준 모델보다 정확도가 7% 향상되었으며, 증거 처리, 응답 구조, 도메인 특유의 추론 측면에서 질적인 개선이 나타났습니다. DRAFT는 규제 분야에서 필수적인 투명성과 증거 기반 추론을 유지하면서 준수 평가 시스템을 개선하는 실용적인 접근 방식을 제시합니다.

시사점, 한계점

시사점:
대규모 언어 모델을 활용하여 안전 중요 소프트웨어의 규정 준수 평가를 자동화하고 효율성을 높일 수 있는 새로운 방법 제시.
이중 검색 아키텍처를 통해 소프트웨어 문서와 관련 규정 표준을 동시에 고려하여 평가의 정확성을 향상.
반자동 데이터셋 생성 방법론을 통해 실제 평가 시나리오를 반영한 효과적인 모델 학습 가능.
기존 모델 대비 정확도 향상 및 질적인 개선을 실험적으로 검증.
한계점:
GPT-4o-mini 모델을 사용한 실험 결과이므로, 다른 LLM이나 다른 종류의 안전 중요 소프트웨어에 대한 일반화 가능성은 추가 연구가 필요.
반자동 데이터셋 생성 방법론의 자동화 수준 향상 및 데이터셋 규모 확장 필요.
실제 산업 환경에 적용하기 위한 추가적인 검증 및 최적화 필요.
👍