Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

HelpSteer3-Preference: Open Human-Annotated Preference Data across Diverse Tasks and Languages

Created by
  • Haebom

저자

Zhilin Wang, Jiaqi Zeng, Olivier Delalleau, Hoo-Chang Shin, Felipe Soares, Alexander Bukharin, Ellie Evans, Yi Dong, Oleksii Kuchaiev

개요

HelpSteer3-Preference는 40,000개 이상의 고품질 인간 주석 선호도 데이터셋으로, STEM, 코딩, 다국어 시나리오를 포함한 다양한 실제 세계 LLM 애플리케이션을 다룹니다. CC-BY-4.0 라이선스로 공개되며, 이를 사용하여 훈련된 Reward Model(RM)은 RM-Bench에서 82.4%, JudgeBench에서 73.7%의 최고 성능을 달성하여 기존 최고 성능보다 약 10% 향상되었습니다. 본 데이터셋은 생성형 RM 훈련 및 RLHF를 이용한 정책 모델 정렬에도 적용 가능함을 보여줍니다.

시사점, 한계점

•
시사점:
◦
대규모 언어 모델의 RLHF 훈련을 위한 고품질, 다양한 선호도 데이터셋을 제공합니다.
◦
기존 Reward Model 성능을 상당히 향상시키는 결과를 보여줍니다.
◦
생성형 RM 훈련 및 RLHF 기반 정책 모델 정렬에 활용 가능성을 제시합니다.
◦
CC-BY-4.0 라이선스로 공개되어 연구 및 개발에 자유롭게 활용 가능합니다.
•
한계점:
◦
데이터셋의 규모와 다양성에 대한 추가적인 분석 및 검증이 필요할 수 있습니다.
◦
특정 언어나 작업에 대한 편향이 존재할 가능성이 있습니다.
◦
데이터셋의 장기적인 유지보수 및 업데이트 계획이 명확하지 않습니다.
👍
Made with Slashpage