Este artículo señala el problema de que los métodos de ajuste fino con eficiencia de parámetros (PEFT) existentes presentan limitaciones para mejorar el rendimiento, ya que congelan los pesos preaprendidos y aprenden nuevos pesos de bajo rango o dispersos. Dado que los métodos existentes aprenden nuevos pesos desde cero, se produce una degradación del rendimiento. VectorFit propone un nuevo método de parametrización que aprende adaptativamente los vectores singulares y los sesgos de W utilizando la información inherente a los pesos preaprendidos W. Gracias a esto, logramos un rendimiento similar al del ajuste fino completo con muchos menos parámetros (reducción de 9x) que los métodos PEFT existentes, y demostramos experimentalmente que nuestro método tiene un rendimiento superior en diversas tareas, como la comprensión y generación de lenguaje natural, la respuesta a preguntas y la clasificación y generación de imágenes a través de 19 conjuntos de datos.
