LLM-DSE: Searching Accelerator Parameters with LLM Agents
Created by
Haebom
저자
Hanyu Wang, Xinrui Wu, Zijian Ding, Su Zheng, Chengyue Wang, Tony Nowatzki, Yizhou Sun, Jason Cong
개요
고수준 합성(HLS) 도구는 추상화 수준을 높임으로써 도메인 특정 가속기(DSA) 프로그래밍의 어려움을 완화하지만, 하드웨어 지시어 매개변수 최적화는 여전히 상당한 장벽입니다. 기존의 휴리스틱 및 학습 기반 방법은 적응성과 샘플 효율성이 부족합니다. 본 논문에서는 HLS 지시어 최적화를 위해 특별히 설계된 다중 에이전트 프레임워크인 LLM-DSE를 제시합니다. LLM과 설계 공간 탐색(DSE)을 결합한 LLM-DSE는 라우터, 전문가, 중재자, 평론가의 네 가지 에이전트로 구성되어 있으며, 이러한 다중 에이전트 구성 요소는 다양한 도구와 상호 작용하여 최적화 프로세스를 가속화합니다. LLM-DSE는 필수적인 도메인 지식을 활용하여 효율적인 매개변수 조합을 식별하는 동시에 온라인 상호 작용을 통한 언어 학습을 통해 적응성을 유지합니다. HLSyn 데이터셋에 대한 평가 결과, LLM-DSE는 최첨단 방법보다 2.55배의 성능 향상을 달성하고, 새로운 설계를 발견하는 동시에 실행 시간을 단축합니다. 에이전트 상호 작용의 효과와 필요성은 제거 연구를 통해 검증됩니다. 코드는 https://github.com/Nozidoali/LLM-DSE 에서 공개되었습니다.
시사점, 한계점
•
시사점:
◦
LLM-DSE는 기존 HLS 지시어 최적화 방법보다 2.55배 향상된 성능을 달성했습니다.
◦
새로운 설계를 발견하고 실행 시간을 단축했습니다.
◦
다중 에이전트 프레임워크를 통해 HLS 지시어 최적화 문제에 대한 효과적인 접근 방식을 제시했습니다.
◦
코드를 공개하여 재현성과 추가 연구를 용이하게 했습니다.
•
한계점:
◦
HLSyn 데이터셋에 대한 평가 결과만 제시되어 다른 데이터셋에 대한 일반화 성능은 검증되지 않았습니다.
◦
LLM-DSE의 성능 향상이 특정 문제 또는 데이터셋에 국한될 가능성이 있습니다.
◦
다중 에이전트 간의 상호 작용 및 의사 결정 과정에 대한 자세한 설명이 부족할 수 있습니다.
