Cet article présente MaCP (Minimal yet Mighty Adaptive Cosine Projection), une nouvelle méthode adaptative permettant d'affiner les modèles de base à grande échelle. MaCP vise à atteindre des performances supérieures tout en utilisant un minimum de paramètres et de mémoire. Elle repose sur l'idée d'exploiter les propriétés supérieures de compression d'énergie et de décorrélation de la projection cosinus pour améliorer l'efficacité et la précision du modèle. Plus précisément, nous projetons les variations de pondération dues à l'adaptation en basse dimension dans l'espace cosinus discret, partitionnons ces variations de pondération sur différents niveaux du spectre cosinus discret, puis sélectionnons les composantes fréquentielles les plus significatives de chaque partition. Grâce à des expériences sur un large éventail de tâches unimodales (par exemple, compréhension du langage naturel, génération de langage naturel, résumé de texte) et multimodales (par exemple, classification d'images, compréhension de vidéos), nous démontrons que MaCP offre systématiquement une précision supérieure, une complexité de calcul significativement réduite et des besoins en mémoire inférieurs à ceux des alternatives existantes.
