Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

CRINN : Apprentissage par renforcement contrastif pour la recherche approximative du plus proche voisin

Created by
  • Haebom

Auteur

Xiaoya Li, Xiaofei Sun, Albert Wang, Chris Shum, Jiwei Li

Contour

CRINN présente un nouveau paradigme d'optimisation de l'algorithme de recherche approximative du plus proche voisin (ANNS) par apprentissage par renforcement. En traitant l'optimisation ANNS comme un problème d'apprentissage par renforcement avec la vitesse d'exécution comme un signal de récompense, CRINN génère automatiquement des implémentations ANNS progressivement plus rapides tout en maintenant les contraintes de précision. Lors d'évaluations expérimentales sur six jeux de données de référence ANNS largement utilisés, CRINN atteint des performances de pointe sur trois jeux de données (GIST-960-Euclidean, MNIST-784-Euclidean et GloVe-25-angular) et la première place sur deux jeux de données (SIFT-128-Euclidean et GloVe-25-angular) par rapport aux algorithmes ANNS open source de pointe. Cela démontre que les LLM augmentés par apprentissage par renforcement peuvent constituer un outil efficace pour automatiser des optimisations algorithmiques sophistiquées qui nécessitaient auparavant des connaissances spécialisées et un travail manuel important. Le code est disponible à l' adresse https://github.com/deepreinforce-ai/CRINN .

Takeaways, Limitations

Takeaways:
Présentation de nouvelles possibilités d'optimisation de l'algorithme ANNS à l'aide de l'apprentissage par renforcement.
Démontrer l'efficacité de l'optimisation algorithmique automatisée grâce à la combinaison des LLM et de l'apprentissage par renforcement.
Praticité prouvée avec d'excellentes performances sur plusieurs ensembles de données de référence
Suggérant la possibilité d'automatiser le processus d'optimisation de l'algorithme, ce qui nécessite des connaissances spécialisées et un travail manuel.
Limitations:
Une vérification des performances de généralisation sur des ensembles de données autres que l’ensemble de données de référence présenté est nécessaire.
Une analyse du coût de calcul et du temps de formation des processus d’optimisation basés sur l’apprentissage par renforcement est nécessaire.
Des recherches supplémentaires sont nécessaires sur l’applicabilité et les performances de généralisation de divers algorithmes ANNS et paramètres de problèmes.
👍