Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Khảo sát về đào tạo sau các mô hình ngôn ngữ lớn

Created by
  • Haebom

Tác giả

Guiyao Tie, Zeli Zhao, Dingjie Song, Fuyang Wei, Rong Chu, Yurou Dai, Wen Yin, Zhejian Yang, Jiangyue Yan, Yao Su, Zhenhan Dai, Yifeng Xie, Yihan Cao, Lichao Sun, Pan Chu, Lifang He, Hechang Chen, Yu Zhang, Qingsong Wen, Tianming Liu, Neil Zhenqiang Gong, Jiliang Tang, Caiming Xiong, Heng Ji, Philip S. Yu, Jianfeng Gao

Phác thảo

Bài báo này trình bày khảo sát toàn diện đầu tiên về các mô hình ngôn ngữ sau học (PoLM). Sự ra đời của các mô hình ngôn ngữ quy mô lớn (LLM) đã cách mạng hóa lĩnh vực xử lý ngôn ngữ tự nhiên (NLP), nhưng chúng cũng bộc lộ những hạn chế như khả năng suy luận hạn chế, sự không chắc chắn về mặt đạo đức và hiệu suất kém trong một số lĩnh vực. Để giải quyết những thách thức này, các PoLM (còn được gọi là mô hình suy luận quy mô lớn, LRM) như OpenAI-o1/o3 và DeepSeek-R1 đã ra đời. Bài báo này theo dõi một cách có hệ thống sự phát triển của PoLM, tập trung vào năm mô hình cốt lõi: tinh chỉnh, căn chỉnh, suy luận, hiệu quả, tích hợp và thích ứng. Từ chiến lược căn chỉnh của ChatGPT đến những tiến bộ đột phá về suy luận của DeepSeek-R1, chúng tôi chứng minh cách PoLM tận dụng các tập dữ liệu để giảm thiểu sai lệch, tăng cường khả năng suy luận và nâng cao khả năng thích ứng trong lĩnh vực. Những đóng góp của chúng tôi bao gồm một bản tổng hợp tiên phong về các phát triển của PoLM, một hệ thống phân loại có cấu trúc phân loại các kỹ thuật và tập dữ liệu, và một chương trình chiến lược làm nổi bật vai trò của LRM trong việc nâng cao khả năng suy luận và tính linh hoạt trong lĩnh vực. Nghiên cứu này tích hợp những tiến bộ gần đây trong PoLM và thiết lập một khuôn khổ trí tuệ chặt chẽ cho nghiên cứu trong tương lai, thúc đẩy sự phát triển của LLM vượt trội về tính nghiêm ngặt, tính vững chắc về mặt đạo đức và tính linh hoạt trong các ứng dụng khoa học và xã hội.

Takeaways, Limitations

•
Takeaways:
◦
Chúng tôi tổ chức quá trình phát triển PoLM một cách có hệ thống và trình bày năm mô hình cốt lõi để cung cấp hiểu biết toàn diện về nghiên cứu PoLM.
◦
Chúng tôi trình bày một hệ thống phân loại có cấu trúc cho các kỹ thuật và tập dữ liệu PoLM, đồng thời đề xuất các hướng nghiên cứu trong tương lai.
◦
Chúng tôi trình bày chương trình nghị sự chiến lược nhằm nâng cao khả năng lập luận và tính linh hoạt trong lĩnh vực của LLM.
◦
ĐóNg góp vào sự phát triển của các chương trình LLM có tính chính xác, tính vững chắc về mặt đạo đức và tính linh hoạt trong các ứng dụng khoa học và xã hội.
•
Limitations:
◦
Mặc dù bài báo này là khảo sát toàn diện đầu tiên về PoLM, nhưng sự phát triển nhanh chóng của lĩnh vực PoLM có thể không bao hàm đầy đủ các xu hướng nghiên cứu mới nhất.
◦
Thay vì phân tích sâu về các mô hình hoặc kỹ thuật PoLM cụ thể, bài viết tập trung vào việc cung cấp cái nhìn tổng quan về xu hướng phát triển chung.
◦
Mặc dù trình bày chương trình nghị sự chiến lược cho nghiên cứu trong tương lai, nhưng không cung cấp thông tin chi tiết về phương pháp nghiên cứu cụ thể hoặc thiết kế thử nghiệm.
👍
Made with Slashpage