Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Tool-integrated Reinforcement Learning for Repo Deep Search

Created by
  • Haebom

저자

Zexiong Ma, Chao Peng, Qunhong Zeng, Pengfei Gao, Yanzhen Zou, Bing Xie

개요

본 논문은 소프트웨어 이슈 지역화(issue localization), 즉 소프트웨어 문제 해결을 위해 수정이 필요한 코드 위치를 식별하는 과정을 다룹니다. 자연어로 된 이슈 설명과 결함이 있는 코드 간의 의미 차이로 인해 코드 의존성을 통한 복잡한 다단계 추론이 필요합니다. 기존의 LLM 기반 에이전트는 저장소 검색 도구를 통합하여 이 문제를 해결하려고 시도하지만, 이는 LLM이 다단계 추론 및 탐색 과정에서 다양한 저장소 검색 도구를 효과적으로 활용해야 하는 'Repo Deep Search'라는 어려운 작업으로 변환됩니다. 이러한 문제를 해결하기 위해 본 논문은 거부 샘플링(rejection-sampled) 감독 미세 조정과 도구 통합 강화 학습을 결합한 2단계 도구 통합 훈련 프레임워크인 ToolTrain을 제시합니다. 실험 결과, ToolTrain으로 훈련된 모델은 최첨단 성능을 달성하며, 32B 모델은 함수 수준 지역화에서 Claude-3.7을 능가합니다. 또한 지역화 성능 향상은 종단 간 이슈 해결 성능 향상으로 이어짐을 보여주며, 이슈 지역화를 위한 훈련이 자동화된 소프트웨어 개발을 개선하는 실행 가능하고 효과적인 전략임을 보여줍니다.

시사점, 한계점

시사점:
ToolTrain 프레임워크를 통해 LLM의 저장소 검색 도구 활용 능력을 향상시켜 소프트웨어 이슈 지역화 성능을 크게 개선할 수 있음을 보여줌.
32B 모델이 Claude-3.7을 능가하는 성능을 달성하여 LLM 기반 이슈 지역화의 가능성을 제시함.
향상된 지역화 성능이 종단 간 이슈 해결 성능 향상으로 이어짐을 확인하여 이슈 지역화 훈련의 효과성을 입증함.
자동화된 소프트웨어 개발 개선을 위한 새로운 전략 제시.
한계점:
ToolTrain 프레임워크의 일반화 성능 및 다양한 소프트웨어 프로젝트에 대한 적용 가능성에 대한 추가 연구 필요.
특정 크기의 LLM(32B)에 대한 결과 위주로, 다른 크기의 LLM에 대한 성능 평가 부족.
실험 데이터셋의 특성에 따른 성능 편향 가능성 존재.
복잡한 코드베이스나 다양한 프로그래밍 언어에 대한 로버스트니스(robustness)에 대한 추가적인 평가 필요.
👍