[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

GRAPES: Aprendiendo a muestrear gráficos para redes neuronales de gráficos escalables

Created by
  • Haebom

Autor

Taraneh Younesian, Daniel Daza, Emile van Krieken, Thiviyan Thanapalasingam, Peter Bloem

Describir

En este artículo, proponemos un método de muestreo adaptativo, GRAPES, para resolver el problema del costo de memoria de las redes neuronales de grafos (GNN). Las GNN existentes tienen un problema: el campo receptivo aumenta exponencialmente al aumentar la profundidad, lo que resulta en un mayor uso de memoria. Para resolver este problema, se han propuesto métodos para muestrear algunos nodos, pero se han evaluado principalmente en grafos homófilos y tienen limitaciones para generalizar a varios grafos o tareas debido a su dependencia de heurísticas estáticas. GRAPES predice la probabilidad de muestreo de nodos utilizando una segunda GNN que aprende un conjunto de nodos que son importantes para el entrenamiento de GNN. Evaluamos la efectividad de GRAPES en varios puntos de referencia de clasificación de nodos (incluyendo grafos homogéneos y heterogéneos), y mostramos su precisión y escalabilidad, especialmente en grafos heterogéneos de múltiples etiquetas. Enfatizamos que puede escalarse a grafos a gran escala manteniendo una alta precisión incluso con tamaños de muestra pequeños.

Takeaways, Limitations

Takeaways:
Presentamos un nuevo método de muestreo adaptativo, GRAPES, para abordar el problema de la eficiencia de la memoria de las GNN.
Muestra alta precisión y escalabilidad incluso en gráficos heterogéneos.
Mantenga una alta precisión incluso con tamaños de muestra pequeños, capaz de procesar gráficos a gran escala.
Superar las limitaciones de los métodos de muestreo estático existentes.
Limitations:
Dado que GRAPES requiere el entrenamiento de una segunda GNN, existe la posibilidad de que aumente el tiempo de entrenamiento y el consumo de recursos.
Se necesita más investigación sobre el rendimiento de generalización para diversas estructuras y tareas de gráficos.
La posibilidad de que el rendimiento de GRAPES pueda estar sesgado hacia ciertas estructuras gráficas o tareas.
👍