Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Procedural Knowledge Improves Agentic LLM Workflows

Created by
  • Haebom
Category
Empty

저자

Vincent Hsiao, Mark Roberts, Leslie Smith

개요

대형 언어 모델(LLM)은 도구 지원, 프롬프트 엔지니어링 또는 미세 조정 없이는 에이전트 작업 수행에 어려움을 겪는 경우가 많습니다. 도메인 종속적이고 절차적인 지식이 계획 효율성을 크게 향상시킬 수 있다는 연구 결과에도 불구하고, 암묵적인 계획이 필요할 수 있는 에이전트 작업에 대한 LLM 성능 향상 가능성을 평가하는 연구는 거의 없습니다. 본 논문에서는 계층적 작업 네트워크(HTN) 형태의 절차적 지식을 활용하는 에이전트 LLM 워크플로우를 공식화, 구현 및 평가했습니다. 실험 결과에 따르면, 손으로 코딩된 HTN은 에이전트 작업에서 LLM 성능을 크게 향상시킬 수 있으며, HTN을 사용하면 200억 또는 700억 매개변수 LLM이 훨씬 큰 1200억 매개변수 LLM 기본 성능을 능가할 수 있습니다. 또한 LLM이 생성한 HTN도 전반적인 성능을 향상시키지만, 그 효과는 상대적으로 적습니다. 이 결과는 인간, 문서 또는 LLM으로부터 전문 지식을 활용하여 절차적 지식을 큐레이팅하는 것이 LLM 워크플로우 개선을 위한 또 다른 중요한 도구가 될 것임을 시사합니다.

시사점, 한계점

시사점:
HTN을 활용하여 LLM의 에이전트 작업 성능을 획기적으로 향상시킬 수 있음.
손으로 코딩된 HTN은 LLM 성능을 크게 향상시키며, 작은 규모의 LLM이 큰 규모의 LLM을 능가하도록 할 수 있음.
LLM 자체적으로 생성한 HTN도 성능 향상에 기여함.
절차적 지식 큐레이션은 LLM 워크플로우 개선에 중요한 역할을 할 수 있음.
한계점:
LLM이 생성한 HTN의 성능 향상 정도는 손으로 코딩한 HTN보다 작음.
논문에서 구체적으로 언급된 한계점은 명시되지 않음. (하지만, 일반적으로 자동화된 HTN 생성의 품질과 효율성, 특정 도메인에 대한 일반화 가능성 등은 추가적인 연구 과제가 될 수 있음)
👍