Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

MTP: una abstracción de lenguaje tipificado por significado para la programación integrada con IA

Created by
  • Haebom

Autor

Jayanaka L. Dantanarayana, Yiping Kang, Kugesan Sivasothynathan, Christopher Clarke, Baichuan Li, Savini Kashmira, Krisztian Flautner, Lingjia Tang, Jason Mars

Describir

Este artículo se centra en la transición del desarrollo de software hacia aplicaciones integradas con IA que aprovechan la IA generativa y los modelos de lenguaje a gran escala (LLM) en tiempo de ejecución. Si bien las integraciones de LLM existentes introducen complejidad debido a la dificultad de la ingeniería de prompts, nuestra propuesta de Programación de Tipos Semánticos (MTP) aborda este desafío abstrayendo la integración de LLM mediante construcciones intuitivas a nivel de lenguaje. MTP aprovecha la riqueza semántica del código para automatizar la generación de prompts y el procesamiento de respuestas sin esfuerzo adicional para el desarrollador. Sus componentes principales incluyen el operador "by" para la invocación de LLM, una representación intermedia basada en semántica (MT-IR) y MT-Runtime, un sistema automatizado para la gestión de interacciones LLM. Implementamos MTP en el lenguaje de programación Jac, un superconjunto de Python, demostrando que reduce significativamente la complejidad del código, manteniendo la corrección y la eficiencia. Estudios de usuarios muestran que los desarrolladores que utilizan MTP trabajan 3,2 veces más rápido y con un 45 % menos de líneas de código en comparación con los frameworks existentes. Además, demostramos robustez incluso cuando las convenciones de nomenclatura se degradan hasta en un 50 %. MTP se desarrolla como parte del proyecto de código abierto Jaseci y está disponible en el módulo byLLM.

Takeaways, Limitations

Takeaways:
Redujimos significativamente la complejidad de la integración de LLM, mejorando la eficiencia del desarrollo (trabajo 3,2 veces más rápido, 45% menos líneas de código).
Resolvemos el desafío de la ingeniería rápida aprovechando la riqueza semántica del código.
Construimos un sistema que es resistente a imprecisiones en las convenciones de nomenclatura (hasta un 50 % de degradación del rendimiento).
Es de código abierto y altamente accesible.
Limitations:
Está especializado para el lenguaje Jac y necesita revisión para extensibilidad a otros lenguajes de programación.
Actualmente, esto está implementado dentro del lenguaje Jac, por lo que se necesita más investigación sobre portabilidad y aplicabilidad a otros lenguajes.
Dado que depende del rendimiento de LLM, las limitaciones de LLM pueden afectar el rendimiento de MTP.
Se necesita más investigación sobre la aplicabilidad y escalabilidad en proyectos de gran escala.
👍