[공지사항]을 빙자한 안부와 근황 
Show more

Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

ĐáNh giá rủi ro động cho các tác nhân an ninh mạng tấn công

Created by
  • Haebom

Tác giả

Boyi Wei, Benedikt Stroebl, Jiacen Xu, Joie Zhang, Chu Li, Peter Henderson

Phác thảo

Bài báo này đặt ra khả năng rằng các mô hình ngôn ngữ lớn, khi chúng phát triển thành các lập trình viên tự chủ, có thể tự động hóa các hoạt động tấn công mạng đầy rủi ro. Các cuộc kiểm toán mô hình hiện đại đang điều tra rủi ro an ninh mạng của các tác nhân như vậy, nhưng thường không xem xét đến quyền tự do mà kẻ thù được hưởng trong thế giới thực. Đặc biệt, các tác nhân an ninh mạng hung hăng có thể được cải thiện theo từng bước bởi các đối thủ tiềm năng thông qua các trình xác minh mạnh mẽ và các ưu đãi tài chính. Do đó, bài báo này xem xét nhu cầu xem xét các mô hình mối đe dọa mở rộng trong bối cảnh an ninh mạng, làm nổi bật các mức độ tự do khác nhau mà kẻ thù có thể có trong môi trường có trạng thái và không trạng thái với ngân sách tính toán cố định. Trong nghiên cứu của chúng tôi, chúng tôi chỉ ra rằng ngay cả với ngân sách tính toán tương đối nhỏ (8 giờ GPU H100), kẻ thù có thể cải thiện khả năng an ninh mạng của một tác nhân hơn 40% so với mức cơ sở trong InterCode CTF. Điều này nhấn mạnh sự cần thiết phải đánh giá rủi ro an ninh mạng của một tác nhân một cách năng động, cung cấp một bức tranh rủi ro thực tế hơn.

Takeaways, Limitations

•
Takeaways:
◦
ĐIều này cho thấy cần có một mô hình mối đe dọa động có tính đến mức độ tự do của đối thủ và khả năng cải thiện lặp đi lặp lại để đánh giá chính xác rủi ro của các tác nhân tấn công mạng dựa trên các mô hình ngôn ngữ lớn.
◦
Chúng tôi nâng cao nhận thức về các mối đe dọa an ninh mạng thực tế bằng cách chứng minh rằng kẻ thù có thể cải thiện đáng kể hiệu suất mô hình ngay cả khi tài nguyên máy tính hạn chế.
◦
Chúng tôi nhấn mạnh nhu cầu phải xem xét lại và cải thiện phương pháp đánh giá rủi ro an ninh mạng cho các mô hình ngôn ngữ quy mô lớn trong tương lai.
•
Limitations:
◦
Môi trường CTF của InterCode được sử dụng trong nghiên cứu có thể không phản ánh hoàn hảo mọi tình huống tấn công mạng trong thế giới thực.
◦
Cần có thêm nghiên cứu để tính đến các kịch bản tấn công đa dạng và phức tạp hơn cũng như ngân sách tính toán lớn hơn.
◦
Cần phải phân tích sâu hơn về các chiến lược và mô hình hành vi của đối thủ.
👍
Made with Slashpage