Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

HelpSteer3: Human-Annotated Feedback and Edit Data to Empower Inference-Time Scaling in Open-Ended General-Domain Tasks

Created by
  • Haebom

저자

Zhilin Wang, Jiaqi Zeng, Olivier Delalleau, Daniel Egert, Ellie Evans, Hoo-Chang Shin, Felipe Soares, Yi Dong, Oleksii Kuchaiev

개요

본 논문은 추론 시간 확장(Inference-Time Scaling)을 개선하기 위해, 인간의 시행착오 및 피드백 과정을 모방한 새로운 방법을 제시합니다. 기존 방법들이 검증 가능한 답변을 요구하는 과제에 한정된 반면, 본 연구는 열린 끝(open-ended) 일반 영역 과제에도 적용 가능하도록 설계되었습니다. 이를 위해, HelpSteer3 데이터셋을 이용하여 초기 응답 생성 모델, 피드백 모델, 응답 수정 모델 세 가지 모델을 학습시켰습니다. 각 모델은 순차적으로 동작하여 초기 응답의 품질을 향상시키고, Chatbot Arena Elo 예측력이 높은 Arena Hard 벤치마크에서 최첨단 성능(92.7)을 달성했습니다. 이는 OpenAI o1-preview-2024-09-12 (90.4) 및 DeepSeek R1 (92.3)을 능가하는 결과입니다.

시사점, 한계점

•
시사점:
◦
열린 끝 일반 영역 과제에 대한 추론 시간 확장의 새로운 접근법 제시
◦
인간의 시행착오 학습 과정을 효과적으로 모방하여 성능 향상
◦
대규모 언어 모델의 성능을 향상시키는 새로운 방법 제시
◦
Arena Hard 벤치마크에서 최첨단 성능 달성
•
한계점:
◦
HelpSteer3 데이터셋에 대한 자세한 설명 부족
◦
세 가지 모델의 구체적인 설계 및 학습 과정에 대한 자세한 설명 부족
◦
제안된 방법의 일반화 성능에 대한 추가적인 평가 필요
◦
70B 모델 기반의 결과이며, 다른 규모의 모델에 대한 성능 비교 부족
👍
Made with Slashpage