Este artículo analiza los avances recientes en la aplicación de modelos de lenguaje basados en Transformers, que han logrado resultados notables en el procesamiento del lenguaje natural (PLN), en el campo de la bioinformática. En particular, se centra en el análisis y diseño de secuencias de proteínas, y analiza y presenta las fortalezas y debilidades de los estudios en diversas áreas de aplicación, como la ontología génica, la identificación funcional y estructural de proteínas, la producción de nuevas proteínas y la unión a proteínas. Señala las deficiencias de los estudios existentes y sugiere futuras líneas de investigación, con el objetivo de ayudar a los investigadores en este campo a comprender las últimas tendencias de investigación y diseñar futuras investigaciones.