Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Tấn công tạo sinh dựa trên cấu trúc ngữ nghĩa để tăng cường khả năng chuyển giao đối nghịch

Created by
  • Haebom

Tác giả

Jongoh Jeong, Hunmin Yang, Jaeseok Jeong, Kuk-Jin Yoon

Phác thảo

Bài báo này đề xuất một khuôn khổ mới để cải thiện khả năng chuyển giao của các cuộc tấn công đối kháng tạo sinh. Các cuộc tấn công đối kháng tạo sinh hiện tại gặp phải vấn đề thiếu sức mạnh biểu diễn đầy đủ của các mô hình tạo sinh, dẫn đến sự không đồng bộ của nhiễu động với các vùng đối tượng có ý nghĩa. Trong nghiên cứu này, chúng tôi trình bày một khuôn khổ tấn công nhận thức cấu trúc ngữ nghĩa dựa trên Giáo viên Trung bình, tạo ra nhiễu động bằng cách tận dụng thông tin ngữ nghĩa được trích xuất từ các kích hoạt trung gian của trình tạo. Cụ thể, chúng tôi sử dụng phương pháp chưng cất đặc trưng, một kỹ thuật tăng cường tính nhất quán giữa các kích hoạt lớp ban đầu của mô hình học sinh và mô hình giáo viên giàu ngữ nghĩa, để tạo ra nhiễu động đối kháng nhắm vào các vùng có ý nghĩa ngữ nghĩa. Các thí nghiệm trên nhiều mô hình, miền và tác vụ khác nhau chứng minh hiệu suất được cải thiện của chúng tôi so với các phương pháp tiên tiến hiện có. Chúng tôi cũng trình bày một thước đo mới, Tỷ lệ Hiệu chỉnh Tình cờ (ACR), để đánh giá.

Takeaways, Limitations

Takeaways:
Một phương pháp mới nhằm cải thiện khả năng chuyển giao các cuộc tấn công đối nghịch mang tính sáng tạo được trình bày.
Sử dụng hiệu quả thông tin ngữ nghĩa bằng cách tận dụng các hoạt động trung gian trong các mô hình tạo sinh.
Kiểm chứng thực nghiệm tính ưu việt của khuôn khổ tấn công nhận biết cấu trúc ngữ nghĩa.
Giới thiệu một chỉ số đánh giá mới, ACR
Limitations:
Những hạn chế về mặt cấu trúc khi dựa vào mô hình Giáo viên trung bình
Cần nghiên cứu thêm để xác định khả năng tổng quát hóa của chỉ số ACR.
Cần xem xét lại sự phụ thuộc vào các mô hình sản xuất cụ thể và khả năng mở rộng sang các mô hình sản xuất khác
👍