[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Risks of ignoring uncertainty propagation in AI-augmented security pipelines

Created by
  • Haebom

저자

Emanuele Mezzi, Aurora Papotti, Fabio Massacci, Katja Tuma

개요

본 논문은 AI 기반 하위 시스템들을 자동화 파이프라인에 통합하는 소프트웨어 개발의 증가하는 추세 속에서, 성능 수준이 불확실한 AI 기반 시스템의 불확실성을 정량화하는 방법을 제시한다. 기존의 위험 분석에서 불확실성에 대한 지식에도 불구하고, 파이프라인에서의 오류 전파를 고려한 AI 증강 시스템의 불확실성을 추정한 연구는 없었다. 본 연구는 불확실성 전파를 포착하기 위한 공식적인 기반을 제공하고, 불확실성을 정량화하기 위한 시뮬레이터를 개발하여, 하나의 사례 연구를 통해 오류 전파의 시뮬레이션을 평가한다. 또한, 접근 방식의 일반화 가능성과 한계를 논의하고, AI 시스템에 대한 평가 정책에 대한 권장 사항을 제시한다. 향후 연구는 나머지 가정을 완화하고 실제 시스템으로 실험함으로써 접근 방식을 확장하는 것을 포함한다.

시사점, 한계점

시사점:
AI 기반 시스템의 불확실성 전파를 정량적으로 분석하는 새로운 방법론 제시.
AI 증강 소프트웨어 개발 파이프라인의 안전성 평가에 대한 새로운 관점 제공.
AI 시스템 평가 정책 수립을 위한 권고안 제시.
한계점:
현재는 하나의 사례 연구만 진행되었으며, 더 많은 실험 및 다양한 시스템 적용 필요.
일부 가정이 존재하며, 향후 연구에서 이러한 가정을 완화해야 함.
실제 시스템에 대한 실험이 아직 수행되지 않음.
👍