Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Une couche neurosymbolique inspirée de DbC pour une conception d'agent fiable

Created by
  • Haebom

Auteur

Claudiu Leoveanu-Condrei

Contour

Pour pallier le manque de garanties vérifiables concernant la sortie des modèles de langage à grande échelle (LLM), cet article propose une couche de contrat qui exploite les principes de la conception par contrat (DbC) et de la théorie des types. Cette couche de contrat gère toutes les invocations de LLM, spécifie les exigences sémantiques et typologiques des entrées et des sorties, et fournit des corrections probabilistes pour garantir la conformité. Nous présentons le LLM comme un analyseur sémantique à double point de vue et un composant probabiliste de type boîte noire, où la satisfaction du contrat est probabiliste et la vérification sémantique est définie opérationnellement par des conditions spécifiées par le programmeur sur des structures de données bien définies. Plus généralement, nous soutenons que deux agents qui satisfont au même contrat sont fonctionnellement équivalents par rapport à ce contrat.

Takeaways, Limitations

Takeaways:
Amélioration de la fiabilité des résultats du LLM : une approche basée sur les contrats peut améliorer la précision et la fiabilité des résultats du LLM.
Présentation du concept d'équivalence fonctionnelle en LLM : En définissant l'équivalence fonctionnelle entre des agents satisfaisant un contrat, nous pouvons évaluer leur interchangeabilité.
Améliorer la compréhension sémantique du LLM : Le contrat vous permet de comprendre et de gérer clairement le traitement sémantique du LLM.
Contrôle de sortie via correction probabiliste : lorsqu'un contrat est violé, la sortie du LLM peut être guidée pour se conformer au contrat grâce à une correction probabiliste.
Limitations:
Défis de conception des contrats : concevoir des contrats précis et complets peut être difficile, et des contrats mal conçus peuvent en réalité compromettre la fiabilité du système.
Efficacité de la modification probabiliste : La modification probabiliste n’est pas toujours efficace en cas de rupture de contrat et peut conduire à des inefficacités dans le processus de modification.
Subjectivité de la vérification sémantique : Les critères de vérification sémantique spécifiés par le programmeur peuvent être subjectifs, ce qui peut conduire à des résultats de vérification incohérents.
Surcharge de la couche de contrat : l’ajout d’une couche de contrat peut entraîner une dégradation des performances.
👍