Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Lý luận thích ứng động thông qua MCTS do LLM hướng dẫn để KGQA hiệu quả và có nhận thức về ngữ cảnh

Created by
  • Haebom

Tác giả

Yingxu Wang, Shiqi Fan, Mengzhu Wang, Siwei Liu

Phác thảo

Bài báo này đề xuất phương pháp Suy luận dựa trên MCTS thích ứng động (DAMR), một khuôn khổ mới cho Trả lời câu hỏi đồ thị tri thức (KGQA). DAMR tích hợp tìm kiếm biểu tượng dựa trên Tìm kiếm cây Monte Carlo (MCTS) với đánh giá đường dẫn thích ứng để giải quyết các hạn chế của các phương pháp trích xuất đường dẫn tĩnh hiện có, bao gồm khả năng thích ứng hạn chế, chi phí tính toán cao và độ chính xác thấp của việc đánh giá đường dẫn. Phương pháp này sử dụng một trình lập kế hoạch dựa trên LLM để giảm không gian tìm kiếm bằng cách chọn k mối quan hệ liên quan hàng đầu tại mỗi bước và giới thiệu một bộ chấm điểm nhẹ dựa trên Transformer để mã hóa đồng thời các chuỗi câu hỏi và mối quan hệ nhằm thực hiện ước tính khả năng nhận biết ngữ cảnh. Hơn nữa, cơ chế tinh chỉnh đường dẫn giả động giúp giảm thiểu thách thức do thiếu dữ liệu giám sát chất lượng cao. Kết quả thử nghiệm trên nhiều điểm chuẩn KGQA khác nhau chứng minh rằng DAMR vượt trội hơn đáng kể so với các phương pháp tiên tiến.

Takeaways, Limitations

Takeaways:
Chúng tôi đề xuất khả năng thực hiện KGQA hiệu quả và phù hợp với bối cảnh bằng cách kết hợp các nhà lập kế hoạch dựa trên MCTS và LLM.
Bộ ghi điểm nhẹ dựa trên Transformer cho phép đánh giá đường dẫn chính xác và nắm bắt những thay đổi ngữ nghĩa tinh tế.
Giảm bớt tình trạng thiếu dữ liệu giám sát chất lượng cao thông qua cơ chế cải thiện đường dẫn động.
ĐạT được hiệu suất tiên tiến nhất trên nhiều tiêu chuẩn KGQA khác nhau.
Limitations:
Việc phụ thuộc quá nhiều vào các nhà lập kế hoạch dựa trên LLM có thể ảnh hưởng đến hiệu suất của LLM.
Hiệu suất của cơ chế cải thiện đường dẫn động có thể phụ thuộc vào chất lượng dữ liệu đào tạo.
Độ Phức tạp về mặt tính toán của MCTS vẫn có thể là vấn đề đối với các đồ thị có kích thước rất lớn.
Hiệu suất theo chuẩn KGQA cụ thể có thể không đảm bảo tính tổng quát.
👍