Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Lớp Neurosymbolic lấy cảm hứng từ DbC cho thiết kế tác nhân đáng tin cậy

Created by
  • Haebom

Tác giả

Claudiu Leoveanu-Condrei

Phác thảo

Để Giải quyết vấn đề thiếu khả năng kiểm chứng đầu ra của các mô hình ngôn ngữ quy mô lớn (LLM), bài báo này đề xuất một lớp hợp đồng áp dụng các nguyên tắc thiết kế theo hợp đồng (DbC) và lý thuyết kiểu. Lớp hợp đồng này làm trung gian cho tất cả các lệnh gọi LLM, chỉ định các yêu cầu ngữ nghĩa và kiểu cho đầu vào và đầu ra, đồng thời cung cấp các hiệu chỉnh xác suất để tuân thủ. Điều này trình bày LLM dưới dạng một góc nhìn kép: một trình phân tích cú pháp ngữ nghĩa và một thành phần hộp đen xác suất. Việc thỏa mãn hợp đồng mang tính xác suất, và việc xác minh ngữ nghĩa được xác định về mặt vận hành thông qua các điều kiện do lập trình viên chỉ định trên các cấu trúc dữ liệu được xác định rõ. Hơn nữa, bài báo này lập luận rằng hai tác nhân thỏa mãn cùng một hợp đồng là tương đương về mặt chức năng cho hợp đồng đó.

Takeaways, Limitations

•
Takeaways:
◦
Cải thiện độ tin cậy của đầu ra LLM: Lớp hợp đồng có thể cải thiện tính chính xác về mặt ngữ nghĩa và độ an toàn về kiểu của đầu ra LLM.
◦
Xác định tính tương đương về mặt chức năng của LLM: Một góc nhìn mới được đưa ra, cho rằng các LLM đáp ứng cùng một hợp đồng có thể được coi là tương đương về mặt chức năng.
◦
Làm rõ bản chất kép của LLM: Cung cấp khuôn khổ mới để hiểu LLM như một trình phân tích ngữ nghĩa và một hộp đen xác suất.
◦
Xác minh ngữ nghĩa có thể lập trình: Xác minh ngữ nghĩa có thể được thực hiện thông qua các điều kiện do lập trình viên chỉ định.
•
Limitations:
◦
Những thách thức của việc thiết kế hợp đồng: Việc thiết kế một hợp đồng phù hợp có thể đòi hỏi nhiều nỗ lực và chuyên môn.
◦
Hạn chế của sự hài lòng theo xác suất: Vì sự hài lòng theo hợp đồng là xác suất nên không thể đảm bảo độ tin cậy hoàn toàn.
◦
Tính chủ quan của xác minh ngữ nghĩa: Kết quả xác minh ngữ nghĩa có thể thay đổi tùy thuộc vào các điều kiện do lập trình viên chỉ định.
◦
Chi phí hiệu suất của lớp hợp đồng: khả năng giảm hiệu suất do thêm lớp hợp đồng.
👍
Made with Slashpage