Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Une couche neurosymbolique inspirée de DbC pour une conception d'agent fiable

Created by
  • Haebom

Auteur

Claudiu Leoveanu-Condrei

Contour

Pour pallier le manque de vérifiabilité des résultats des modèles de langage à grande échelle (MLH), cet article propose une couche de contrat appliquant les principes de la conception par contrat (CPC) et de la théorie des types. Cette couche de contrat gère toutes les invocations de MHL, spécifie les exigences sémantiques et typologiques des entrées et sorties, et fournit des corrections probabilistes pour la conformité. Le MHL présente ainsi une double perspective : un analyseur sémantique et un composant probabiliste de type boîte noire. La satisfaction du contrat est probabiliste, et la vérification sémantique est définie opérationnellement par des conditions spécifiées par le programmeur sur des structures de données bien définies. De plus, cet article soutient que deux agents qui satisfont le même contrat sont fonctionnellement équivalents pour ce contrat.

Takeaways, Limitations

•
Takeaways:
◦
Amélioration de la fiabilité de la sortie LLM : la couche de contrat peut améliorer l’exactitude sémantique et la sécurité de type de la sortie LLM.
◦
Définition de l'équivalence fonctionnelle des LLM : une nouvelle perspective est présentée, suggérant que les LLM qui satisfont au même contrat peuvent être considérés comme fonctionnellement équivalents.
◦
Clarifier la double nature du LLM : fournir un nouveau cadre pour comprendre le LLM comme un analyseur sémantique et une boîte noire probabiliste.
◦
Vérification sémantique programmable : La vérification sémantique peut être effectuée via des conditions spécifiées par le programmeur.
•
Limitations:
◦
Les défis de la conception des contrats : Concevoir un contrat approprié peut nécessiter des efforts et une expertise considérables.
◦
Limites de la satisfaction probabiliste : La satisfaction du contrat étant probabiliste, une fiabilité parfaite ne peut être garantie.
◦
Subjectivité de la vérification sémantique : Les résultats de la vérification sémantique peuvent varier en fonction des conditions spécifiées par le programmeur.
◦
Surcharge de performances de la couche contractuelle : dégradation potentielle des performances due à l’ajout d’une couche contractuelle.
👍
Made with Slashpage