[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Risks of ignoring uncertainty propagation in AI-augmented security pipelines

Created by
  • Haebom

作者

Emanuele Mezzi, Aurora Papotti, Fabio Massacci, Katja Tuma

概要

この論文は、AIベースのサブシステムを自動化パイプラインに統合するソフトウェア開発の増加傾向の中で、パフォーマンスレベルが不確実なAIベースシステムの不確実性を定量化する方法を提示する。正式な基盤を提供し、不確実性を定量化するためのシミュレータを開発し、1つのケーススタディを介してエラー伝播のシミュレーションを評価します。

Takeaways、Limitations

Takeaways:
AIベースシステムの不確実性伝播を定量的に分析する新しい方法論の提示
AI強化ソフトウェア開発パイプラインの安全性評価に関する新しい視点を提供
AIシステム評価方針を確立するための勧告を提示します。
Limitations:
現在は1つのケーススタディのみが行われており、より多くの実験とさまざまなシステム適用が必要です。
いくつかの仮定が存在し、将来の研究でこれらの仮定を軽減する必要があります。
実際のシステムの実験はまだ行われていません。
👍