Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

SALAD : Évaluation systématique du désapprentissage automatique dans la conception matérielle assistée par LLM

Created by
  • Haebom

Auteur

Zeng Wang, Minghao Shao, Rupesh Karn, Likhitha Mankali, Jitendra Bhandari, Ramesh Karri, Ozgur Sinanoglu, Muhammad Shafique, Johann Knechtel

Contour

Cet article aborde les problèmes de sécurité des données liés à l'automatisation de la conception matérielle à l'aide de modèles de langage à grande échelle (LLM), notamment lors de la génération de code Verilog. La génération de code Verilog à l'aide de LLM peut présenter de graves risques pour la sécurité des données, notamment la corruption des données d'évaluation Verilog, les fuites de propriété intellectuelle (PI) et le risque de génération de code Verilog malveillant. En réponse, cet article présente SALAD, une méthode d'évaluation complète qui atténue ces menaces grâce à des techniques de désapprentissage automatique. SALAD supprime sélectivement les benchmarks contaminés, les artefacts de propriété intellectuelle et de conception sensibles, ainsi que les modèles de code malveillants des LLM pré-entraînés, sans réentraînement. À travers une étude de cas détaillée, cet article démontre comment les techniques de désapprentissage automatique atténuent efficacement les risques de sécurité des données dans les conceptions matérielles basées sur les LLM.

Takeaways, Limitations

Takeaways:
Nous présentons une nouvelle méthode permettant d’atténuer efficacement les risques de sécurité des données dans l’automatisation de la conception matérielle basée sur LLM en tirant parti de l’apprentissage automatique.
Démontre la faisabilité d'une technique permettant de supprimer des informations sensibles du LLM sans recyclage.
Fournit des Takeaways importants pour améliorer la sécurité dans l'automatisation de la conception matérielle basée sur LLM.
Limitations:
D’autres expériences et analyses sont nécessaires pour déterminer l’efficacité et les performances de SALAD.
La vérification des performances de généralisation de SALAD contre divers types de logiciels malveillants et d’attaques est nécessaire.
Des recherches supplémentaires sont nécessaires sur les fuites d’informations potentielles qui peuvent survenir lors de l’apprentissage automatique.
👍