Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Mô hình ngôn ngữ tự hỏi

Created by
  • Haebom

Tác giả

Lili Chen, Mihir Prabhudesai, Katerina Fragkiadaki, Hảo Lưu, Deepak Pathak

Phác thảo

Bài báo này nghiên cứu liệu các mô hình ngôn ngữ được đào tạo trước có thể nâng cao khả năng lập luận của chúng bằng cách tạo ra các câu hỏi và câu trả lời một cách độc lập, mà không cần dữ liệu bên ngoài hay không. Để đạt được điều này, chúng tôi đề xuất Mô hình ngôn ngữ tự hỏi (SQLM), một khuôn khổ tự học không đối xứng. Người đề xuất nhận được một chủ đề và tạo ra các câu hỏi, trong khi người giải quyết trả lời các câu hỏi. Cả người đề xuất và người giải quyết đều được đào tạo thông qua học tăng cường. Người đề xuất nhận được phần thưởng khi tạo ra một vấn đề có độ khó phù hợp và người giải quyết nhận được phần thưởng khi xác định tính đúng đắn của câu trả lời thông qua biểu quyết đa số. Đối với các vấn đề mã hóa, người đề xuất tạo ra các bài kiểm tra đơn vị, được sử dụng để xác thực. Các thí nghiệm được tiến hành trên ba điểm chuẩn: phép nhân ba chữ số, các bài toán đại số từ điểm chuẩn OMEGA và các bài toán lập trình từ Codeforces. Chúng tôi chứng minh rằng mô hình ngôn ngữ có thể cải thiện hiệu suất mà không cần dữ liệu bên ngoài.

Takeaways, Limitations

•
Takeaways:
◦
Đề Xuất khả năng cải thiện khả năng suy luận của mô hình ngôn ngữ mà không cần dữ liệu bên ngoài.
◦
Đề Xuất một khuôn khổ đào tạo mô hình ngôn ngữ dựa trên tự học mới
◦
Khả năng áp dụng cho nhiều loại vấn đề khác nhau (toán học, lập trình)
◦
Đề Xuất hướng học mô hình ngôn ngữ trong môi trường thiếu dữ liệu
•
Limitations:
◦
Có những câu hỏi về tính chính xác của việc sử dụng biểu quyết đa số làm tiêu chuẩn để xác định câu trả lời đúng.
◦
Cần xác minh hiệu suất tổng quát cho các loại vấn đề phức tạp và đa dạng
◦
Cần phải phân tích sâu hơn về chất lượng và tính đa dạng của các vấn đề tự phát sinh.
◦
Cần phải phân tích so sánh với kết quả thực nghiệm sử dụng các tập dữ liệu quy mô lớn.
👍
Made with Slashpage