[공지사항]을 빙자한 안부와 근황 
Show more

Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Rủi ro khi bỏ qua sự lan truyền bất ổn trong các quy trình bảo mật được tăng cường bằng AI

Created by
  • Haebom

Tác giả

Emanuele Mezzi, Aurora Papotti, Fabio Massacci, Katja Tuma

Phác thảo

Trong bài báo này, chúng tôi trình bày một phương pháp định lượng độ bất định của các hệ thống dựa trên AI có mức hiệu suất không chắc chắn, trong bối cảnh xu hướng phát triển phần mềm ngày càng tăng, tích hợp các hệ thống con dựa trên AI vào các quy trình tự động. Mặc dù đã biết về độ bất định trong phân tích rủi ro hiện có, nhưng chưa có nghiên cứu nào cố gắng ước tính độ bất định của các hệ thống được tăng cường AI, có tính đến sự lan truyền lỗi trong quy trình. Nghiên cứu này cung cấp một nền tảng chính thức để nắm bắt sự lan truyền độ bất định, phát triển một trình mô phỏng để định lượng độ bất định và đánh giá việc mô phỏng sự lan truyền lỗi thông qua một nghiên cứu điển hình. Chúng tôi cũng thảo luận về khả năng khái quát hóa và những hạn chế của phương pháp này, đồng thời đưa ra các khuyến nghị cho các chính sách đánh giá hệ thống AI. Các công việc trong tương lai bao gồm việc mở rộng phương pháp này bằng cách nới lỏng các giả định còn lại và thử nghiệm với các hệ thống thực tế.

Takeaways, Limitations

Takeaways:
Một phương pháp mới để phân tích định lượng sự lan truyền bất định trong các hệ thống dựa trên AI được trình bày.
Cung cấp góc nhìn mới về đánh giá an toàn của quy trình phát triển phần mềm được tăng cường bằng AI.
ĐưA ra khuyến nghị để thiết lập chính sách đánh giá hệ thống AI.
Limitations:
Hiện tại, chỉ có một nghiên cứu điển hình được tiến hành và cần có thêm nhiều thí nghiệm và ứng dụng vào nhiều hệ thống khác nhau.
Có một số giả định tồn tại và các nghiên cứu trong tương lai sẽ làm rõ những giả định này.
Các thí nghiệm trên hệ thống thực tế vẫn chưa được thực hiện.
👍