Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

MoSE: Sự kết hợp giữa các chuyên gia về kỹ năng học tập cho các máy tự động hóa có thân xác

Created by
  • Haebom

Tác giả

Lu Xu, Jiaqian Yu, Xiongfeng Peng, Yiwei Chen, Weiming Li, Jaewook Yoo, Sunghyun Chunag, Dongwook Lee, Daehyun Ji, Chao Zhang

Phác thảo

Để đáP ứng nhu cầu ngày càng tăng về các hệ thống AI nhúng hiệu quả và thông minh, bài báo này đề xuất MoSE, một phương pháp Chuyên gia hỗn hợp (MoE) mới. Để giải quyết những thách thức của các mô hình MoE hiện có, vốn đòi hỏi dữ liệu đào tạo khổng lồ và các quy trình tối ưu hóa phức tạp, MoSE mô phỏng các quy trình học tập và suy luận của con người, thực hiện học tập từng kỹ năng, từng bước một. Nó tạo điều kiện cho việc học tập từng kỹ năng bằng cách định nghĩa và chú thích các kỹ năng cụ thể, cho phép các chuyên gia xác định các năng lực cần thiết cho các tình huống và nhiệm vụ suy luận khác nhau. Nó xây dựng một tập dữ liệu kỹ năng phân cấp và huấn luyện trước các bộ định tuyến để khuyến khích suy luận từng bước, tích hợp các tác vụ bổ trợ như nhận thức-dự đoán-lập kế hoạch cho xe tự hành (AD) và lập kế hoạch cấp cao và cấp thấp cho robot thành một lần chạy mà không cần thêm chi phí tính toán. Nó mở rộng hiệu quả các chuyên môn đa dạng với ít hơn 3 tỷ tham số được kích hoạt thưa thớt, vượt trội hơn các mô hình hiện có trên cả suy luận trường hợp góc AD và các nhiệm vụ suy luận robot với ít tham số hơn (ít hơn 40%).

Takeaways, Limitations

Takeaways:
Chúng tôi trình bày một phương pháp MoE (MoSE) mới giúp cải thiện đáng kể hiệu quả suy luận và học tập của các hệ thống AI nhúng.
Học tập hiệu quả về công nghệ cụ thể và tiếp thu kiến thức chuyên môn đa dạng thông qua cơ chế định tuyến lấy công nghệ làm trung tâm.
Suy luận từng bước được thúc đẩy bởi các tập dữ liệu kỹ thuật phân cấp và bộ định tuyến được đào tạo trước.
Tích hợp nhiều hoạt động phụ trợ khác nhau mà không tốn thêm chi phí tính toán.
ĐạT được hiệu suất vượt trội với ít thông số hơn so với các mẫu hiện có.
Limitations:
Cần phải xác minh thêm hiệu suất tổng quát của mô hình MoSE được đề xuất.
Hãy cân nhắc đến nỗ lực và chi phí chú thích và xác định các công nghệ cụ thể.
Cần nghiên cứu thêm về khả năng áp dụng và mở rộng cho nhiều hệ thống AI nhúng khác nhau.
Cần phải đánh giá độ bền và an toàn trong môi trường thực tế.
👍