Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

BadHMP: Tấn công cửa sau vào dự đoán chuyển động của con người

Created by
  • Haebom

Tác giả

Chaohui Xu, Si Wang, Chip-Hong Chang

Phác thảo

Bài báo này đề cập đến lỗ hổng của mạng nơ-ron nhân tạo dựa trên bộ xương trong việc dự đoán chuyển động tương lai của con người dưới một giây, đặc biệt là trước các cuộc tấn công né tránh và tấn công cửa hậu. Chúng tôi đề xuất BadHMP, một cuộc tấn công cửa hậu mới nhắm mục tiêu cụ thể vào nhiệm vụ dự đoán chuyển động của con người. BadHMP sử dụng các mẫu huấn luyện độc hại được tạo ra bằng cách chèn các kích hoạt cửa hậu được định vị tại một phần của bộ xương. Các kích hoạt này khiến một số khớp nhất định tuân theo một chuyển động được xác định trước trong bước thời gian trước đó, và sau đó các chuỗi tương lai được sửa đổi toàn cục để tất cả các khớp di chuyển theo quỹ đạo mục tiêu. Các kích hoạt cửa hậu và mục tiêu được thiết kế cẩn thận đảm bảo độ mượt mà và tự nhiên của các mẫu độc hại, khiến trình huấn luyện mô hình khó phát hiện chúng, đồng thời làm cho mô hình độc hại trở nên vô hình về mặt độ chính xác dự đoán đối với các chuỗi không bị nhiễm. Các chuỗi đầu vào được thiết kế có thể kích hoạt thành công các chuỗi mục tiêu ngay cả ở tốc độ tiêm mẫu độc hại thấp. Kết quả thử nghiệm trên hai tập dữ liệu Human3.6M và CMU-Mocap, cùng hai kiến trúc mạng LTD và HRI, chứng minh độ chính xác cao, hiệu quả và khả năng ẩn của BadHMP. Độ mạnh mẽ của cuộc tấn công chống lại các biện pháp phòng thủ tinh vi cũng đã được xác minh.

Takeaways, Limitations

Takeaways:
Chúng tôi trình bày một phương pháp mới (BadHMP) để tấn công hiệu quả các lỗ hổng cửa sau trong các mô hình dự đoán chuyển động của con người.
Đã Kiểm chứng bằng thực nghiệm về tỷ lệ thành công cao và khả năng tàng hình của BadHMP.
Xác minh tính mạnh mẽ của BadHMP trước các biện pháp phòng thủ tinh chỉnh.
Nhấn mạnh tầm quan trọng của việc bảo mật các mô hình trí tuệ nhân tạo trong các ứng dụng quan trọng về an toàn.
Limitations:
Có khả năng cuộc tấn công được đề xuất có thể chỉ giới hạn ở một số loại mô hình và tập dữ liệu nhất định.
Cần có thêm nghiên cứu về hiệu quả của BadHMP trong các tình huống thực tế.
Cần phải nghiên cứu các kỹ thuật phòng thủ mạnh mẽ hơn.
Cần phân tích thêm về hiệu suất tổng quát của BadHMP cho các mục tiêu và tác nhân cửa sau khác nhau.
👍