Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Mô hình ngôn ngữ nhận thức vai trò để kiểm soát truy cập an toàn và theo ngữ cảnh trong các tổ chức

Created by
  • Haebom

Tác giả

Saeed Almheiri, Yerulan Kongrat, Adrian Santosh, Ruslan Tasmukhanov, Josemaria Loza Vera, Muhammad Dehan Al Kautsar, Fajri Koto

Phác thảo

Bài báo này khám phá kiểm soát truy cập dựa trên vai trò cho các mô hình ngôn ngữ quy mô lớn (LLM), vốn ngày càng được triển khai rộng rãi trong môi trường doanh nghiệp. Các cơ chế bảo mật hiện có giả định các quyền truy cập chung và tập trung vào việc ngăn chặn đầu ra có hại hoặc độc hại, nhưng không giải quyết các hạn chế truy cập cụ thể theo vai trò. Nghiên cứu này tìm hiểu cách tinh chỉnh LLM có thể tạo ra các phản hồi phản ánh các quyền truy cập liên quan đến các vai trò khác nhau của tổ chức. Chúng tôi khám phá ba chiến lược mô hình hóa—bộ phân loại dựa trên BERT, bộ phân loại dựa trên LLM và tạo điều kiện vai trò—và đánh giá hiệu suất mô hình bằng cách sử dụng hai tập dữ liệu: một dựa trên việc phân cụm và gắn nhãn vai trò của một kho dữ liệu điều chỉnh lệnh hiện có, và tập dữ liệu còn lại được tạo tổng hợp dựa trên các kịch bản doanh nghiệp nhạy cảm với vai trò thực tế. Chúng tôi cũng phân tích hiệu suất mô hình trên nhiều cấu trúc tổ chức khác nhau và tính mạnh mẽ của nó để nhắc nhở việc chèn, không khớp vai trò và các nỗ lực bẻ khóa.

Takeaways, Limitations

Takeaways:
Một chiến lược mô hình hóa mới cho kiểm soát truy cập dựa trên vai trò trong LLM trong môi trường doanh nghiệp
Xác minh khả năng tạo phản hồi LLM phản ánh quyền truy cập cho các vai trò khác nhau.
Góp phần cải thiện bảo mật thông qua phân tích độ mạnh của mô hình chống lại các hành vi chèn nhanh, không khớp vai trò và bẻ khóa.
Trình bày phương pháp tạo tập dữ liệu tổng hợp phản ánh các tình huống kinh doanh thực tế.
Limitations:
Thiếu thông tin rõ ràng về quy mô và tính đa dạng của các tập dữ liệu được sử dụng.
Cần phải xác minh thêm về khả năng áp dụng trong môi trường kinh doanh thực tế.
Cần phân tích thêm về tính chính xác và hiệu quả của việc kiểm soát truy cập cho các vai trò cụ thể.
Thiếu thông tin chi tiết về đánh giá hiệu suất chung trên nhiều cơ cấu tổ chức khác nhau.
👍