Cet article se concentre sur l'évaluation et l'amélioration de la qualité des textes générés par l'IA. Avec l'augmentation rapide du volume de textes générés par l'IA, évaluer et améliorer la « qualité » des textes au-delà de la simple exactitude et de la cohérence grammaticales est devenu de plus en plus important. Nous présentons le Writing Quality Benchmark (WQ), un ensemble de 4 729 jugements sur la qualité de l'écriture, intégrés à partir de cinq bases de données existantes. Plusieurs modèles de référence, dont des LLM de pointe, démontrent qu'ils ne surpassent pas significativement les benchmarks aléatoires sur le WQ. Pour y remédier, nous formons des modèles de récompense pour la qualité de l'écriture (WQRM) de différentes tailles pour évaluer la qualité de l'écriture, obtenant ainsi de solides performances de généralisation et une précision de 74 % sur le WQ sur quatre ensembles de tests hors distribution. De plus, nous démontrons que le WQRM peut être utilisé pour générer et classer les révisions candidates, permettant ainsi de sélectionner des résultats de meilleure qualité que les versions initiales. Lors d'évaluations humaines menées par neuf rédacteurs professionnels, la méthode de sélection basée sur le WQRM a généré des échantillons d'écriture préférés par les experts dans 66 % des cas, et dans 72,2 % des cas lorsque l'écart de récompense était supérieur à un point. Les chercheurs entendent contribuer au développement de systèmes d'écriture basés sur l'IA en rendant publics l'ensemble de données et le modèle.
