Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

MTP : une abstraction de langage typée par le sens pour la programmation intégrée à l'IA

Created by
  • Haebom

Auteur

Jayanaka L. Dantanarayana, Yiping Kang, Kugesan Sivasothynathan, Christopher Clarke, Baichuan Li, Savini Kashmira, Krisztian Flautner, Lingjia Tang, Jason Mars

Contour

Cet article se concentre sur la transition du développement logiciel vers des applications intégrant l'IA, exploitant l'IA générative et les modèles de langage à grande échelle (LLM) à l'exécution. Alors que les intégrations LLM existantes introduisent de la complexité en raison de la difficulté d'ingénierie des invites, notre proposition de programmation sémantique de type (MTP) relève ce défi en abstractionnant l'intégration LLM grâce à des constructions intuitives au niveau du langage. MTP exploite la richesse sémantique du code pour automatiser la génération des invites et le traitement des réponses sans effort supplémentaire de la part du développeur. Ses principaux composants incluent l' opérateur by pour l'invocation LLM, une représentation intermédiaire sémantique (MT-IR) et MT-Runtime, un système d'automatisation pour la gestion des interactions LLM. Nous implémentons MTP dans le langage de programmation Jac, un sur-ensemble de Python, démontrant qu'il réduit considérablement la complexité du code tout en préservant l'exactitude et l'efficacité. Des études utilisateurs montrent que les développeurs utilisant MTP travaillent 3,2 fois plus vite et avec 45 % de lignes de code en moins par rapport aux frameworks existants. De plus, nous démontrons une robustesse même lorsque les conventions de nommage sont dégradées jusqu'à 50 %. MTP est développé dans le cadre du projet open source Jaseci et est disponible dans le module byLLM.

Takeaways, Limitations_

Takeaways:
Nous avons considérablement réduit la complexité de l'intégration LLM, améliorant ainsi l'efficacité du développement (travail 3,2 fois plus rapide, 45 % de lignes de code en moins).
Nous résolvons le défi de l’ingénierie rapide en exploitant la richesse sémantique du code.
Nous avons construit un système résistant aux inexactitudes des conventions de nommage (jusqu'à 50 % de dégradation des performances).
Il est open source et hautement accessible.
Limitations:
Il est spécialisé pour le langage Jac et doit être révisé pour son extensibilité vers d'autres langages de programmation.
Actuellement, cela est implémenté dans le langage Jac, des recherches supplémentaires sont donc nécessaires sur la portabilité et l'applicabilité à d'autres langages.
ÉTant donné que cela dépend des performances du LLM, les limitations du LLM peuvent affecter les performances du MTP.
Des recherches supplémentaires sont nécessaires sur l’applicabilité et l’évolutivité dans les projets à grande échelle.
👍