Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Căn chỉnh an toàn được cá nhân hóa cho các mô hình khuếch tán văn bản sang hình ảnh

Created by
  • Haebom

Tác giả

Ngọc Lôi, Jinbin Bai, Qingyu Shi, Aosong Feng, Kaidong Yu

Phác thảo

Bài báo này chỉ ra những hạn chế của cơ chế an toàn của các mô hình khuếch tán văn bản-hình ảnh, vốn không tính đến sở thích cá nhân của người dùng, và đề xuất một khuôn khổ Căn chỉnh An toàn Cá nhân hóa (PSA). PSA tích hợp hồ sơ người dùng vào quy trình khuếch tán để điều chỉnh hành vi của mô hình theo các tiêu chí an toàn cá nhân mà vẫn duy trì chất lượng hình ảnh. Nó kết hợp các sở thích an toàn cụ thể của người dùng bằng cách sử dụng bộ dữ liệu mới, Sage, và tích hợp các hồ sơ thông qua cơ chế chú ý chéo. Kết quả thử nghiệm chứng minh rằng PSA vượt trội hơn các phương pháp hiện có trong việc ngăn chặn nội dung độc hại, tạo ra nội dung phù hợp hơn với các ràng buộc của người dùng và đạt được điểm Win Rate và Pass Rate cao hơn. Mã nguồn, dữ liệu và mô hình được công khai.

Takeaways, Limitations

Takeaways:
Chúng tôi trình bày một khuôn khổ mới để cải thiện tính an toàn của các mô hình tạo văn bản thành hình ảnh bằng cách áp dụng các tiêu chí an toàn có thể tùy chỉnh theo người dùng.
Cung cấp khả năng tùy chỉnh các thiết lập an toàn có tính đến nhiều yếu tố khác nhau như độ tuổi, sức khỏe tâm thần và niềm tin cá nhân của mỗi người.
Kết quả cho thấy hiệu suất tốt hơn trong việc ngăn chặn nội dung có hại và mức độ hài lòng của người dùng cao hơn so với các phương pháp hiện có.
ĐảM bảo khả năng tái tạo và khả năng mở rộng của nghiên cứu thông qua mã mở, dữ liệu và mô hình.
Limitations:
Cần xác thực thêm về quy mô và tính đa dạng của tập dữ liệu Sage.
Cần phải xác minh hiệu suất tổng quát của khuôn khổ PSA và khả năng áp dụng của nó cho nhiều mô hình khác nhau.
Cần phải xem xét đến tính chính xác và độ tin cậy của hồ sơ người dùng.
Cần phải xem xét đến những lo ngại về bảo mật liên quan đến khả năng người dùng có ý đồ xấu thao túng hồ sơ.
👍