Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

HodgeFormer : Transformateurs pour opérateurs apprenables sur des maillages triangulaires grâce à des matrices de Hodge pilotées par les données

Created by
  • Haebom

Auteur

Akis Nousias, Stavros Nousias

Contour

Cet article propose une nouvelle approche pour améliorer l'efficacité des architectures Transformer existantes appliquées aux graphes et aux maillages pour les tâches d'analyse morphologique. Les méthodes existantes utilisent des couches d'attention traditionnelles qui exploitent largement les caractéristiques spectrales, nécessitant des méthodes coûteuses basées sur la décomposition des valeurs propres. Pour coder les structures de maillage, ces méthodes dérivent des plongements positionnels, qui s'appuient fortement sur des opérations basées sur la décomposition des valeurs propres à partir des signatures de la matrice laplacienne ou du noyau de colonnes, puis les concatènent aux caractéristiques d'entrée. Cet article présente une nouvelle approche inspirée de la construction explicite de l'opérateur laplacien de Hodge en calcul externe discret, exprimé comme le produit de l'opérateur de Hodge discret et de la dérivée externe ($L := \star_0^{-1} d_0^T \star_1 d_0$). Cet article adapte l'architecture Transformer à une nouvelle couche d'apprentissage profond qui approxime les matrices de Hodge $\star_0$, $\star_1$ et $\star_2$ grâce à un mécanisme d'attention multi-têtes et apprend une famille d'opérateurs discrets L agissant sur les sommets, les arêtes et les faces du maillage. Notre approche crée une architecture performante en termes de calcul, permettant d'obtenir des performances comparables pour les tâches de segmentation et de classification de maillage grâce à un cadre d'apprentissage direct, sans opérations coûteuses de décomposition des valeurs propres ni opérations de prétraitement complexes.

Takeaways, Limitations_

Takeaways:
Nous présentons une architecture de traitement de maillage efficace sur le plan informatique qui ne nécessite pas d'opérations de décomposition des valeurs propres.
Il peut être appliqué aux tâches de segmentation et de classification de maillage via un cadre d'apprentissage direct sans étapes de prétraitement complexes.
Permet d’obtenir des performances similaires aux méthodes existantes.
Limitations:
D’autres expériences sont nécessaires pour déterminer dans quelle mesure la méthode proposée se généralise à différents types et tailles de maillage.
Une analyse de l’impact de la précision d’approximation de la matrice de Hodge sur la performance finale est nécessaire.
Il existe un manque d’analyse comparative avec d’autres techniques avancées de traitement de maillage.
👍