Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

QSpark: Towards Reliable Qiskit Code Generation

Created by
  • Haebom

저자

Kiana Kheiri, Aamna Aamir, Andriy Miranskyy, Chen Ding

개요

본 논문은 양자 회로의 오류 허용 능력 향상을 위해 대규모 언어 모델(LLM)을 강화 학습(RL) 기법으로 미세 조정하는 연구를 다룹니다. Granite-20B-Code 및 StarCoder와 같은 기존 LLM이 종종 오류가 있는 Qiskit 코드를 생성하는 문제를 해결하기 위해, Qwen2.5-Coder-32B 모델을 GRPO와 ORPO라는 두 가지 RL 방법을 사용하여 풍부하게 주석이 달린 합성 데이터셋으로 미세 조정했습니다. 실험 결과, Qiskit HumanEval 벤치마크에서 ORPO는 56.29%의 Pass@1 성능을 달성하여 Granite-8B-QK보다 약 10% 향상되었으며, GRPO는 49%를 달성했습니다. 일반적인 목적의 기준 모델보다 우수한 성능을 보였으나, 고난도 작업에서는 여전히 해결하지 못하는 한계를 보였습니다.

시사점, 한계점

시사점:
강화 학습 기법을 통해 LLM의 양자 프로그래밍 성능을 향상시킬 수 있음을 보여줌.
GRPO와 ORPO 알고리즘이 기존 LLM보다 양자 프로그래밍 과제에서 더 나은 성능을 보임.
특히 GRPO는 기본 및 중간 수준의 과제에서 우수한 성능을 나타냄.
한계점:
고난도 양자 프로그래밍 과제 해결에는 여전히 어려움을 겪음.
합성 데이터셋을 사용하여 학습하였으므로, 실제 양자 프로그래밍 환경에서의 성능은 추가 검증이 필요함.
👍