Descripción
Este repositorio de GitHub aloja la implementación oficial del modelo Simplifying Graph Convolutional Networks (SGC), tal como se detalla en el artículo de ICML2019. SGC es un avance en las Redes Convolucionales de Grafos (GCN) que simplifica la arquitectura al eliminar las no linealidades y colapsar las matrices de pesos. Esta transformación resulta en un modelo lineal que mantiene un rendimiento competitivo mientras reduce drásticamente el tiempo de entrenamiento y los recursos computacionales.
La implementación soporta varios conjuntos de datos de grafos, incluyendo redes de citación como Cora, Citeseer y Pubmed, así como redes sociales como Reddit. Para las redes de citación, el modelo logra una precisión notable, por ejemplo, 81.0% en Cora, 71.9% en Citeseer y 78.9% en Pubmed, con tiempos de entrenamiento tan bajos como 0.13 segundos en una GTX 1080 Ti. Para el conjunto de datos Reddit, logra una puntuación F1 del 94.9% en 2.7 segundos.
El repositorio incluye código para preprocesamiento de datos, definición del modelo, entrenamiento y evaluación. También proporciona orientación sobre el ajuste de hiperparámetros, particularmente para la regularización L2 (weight decay), utilizando herramientas como hyperopt. Se ofrecen consejos prácticos, como normalizar las características para que tengan media cero y desviación estándar uno para acelerar la convergencia, una técnica beneficiosa para SGC y otros modelos lineales.
Más allá de la implementación principal, el repositorio señala recursos adicionales e implementaciones de referencia en bibliotecas populares como Deep Graph Library (DGL), PyTorch Geometric, Spektral, StellarGraph y tf_geometric. También presenta una rama en desarrollo para estudios de ablación y código para tareas posteriores (downstream tasks), comenzando con la clasificación de texto. Este proyecto es un recurso valioso para investigadores y profesionales que buscan aprovechar modelos de redes neuronales de grafos eficientes y efectivos.
Aspectos destacados de Simplificando Redes Convolucionales de Grafos
Implementación oficial del artículo Simplifying Graph Convolutional Networks (SGC).
Arquitectura optimizada de Red Convolucional de Grafos (GCN).
Elimina no linealidades y colapsa matrices de pesos para un modelo lineal.
Tiempo de entrenamiento significativamente reducido en comparación con GCNs tradicionales.
Logra un rendimiento competitivo en conjuntos de datos de referencia.
Soporta redes de citación (Cora, Citeseer, Pubmed) y redes sociales (Reddit).
Incluye código para preprocesamiento de datos, entrenamiento de modelos y evaluación.
Proporciona orientación sobre el ajuste de hiperparámetros.
Ofrece consejos prácticos sobre normalización de características para acelerar la convergencia.
Código base para tareas posteriores (downstream tasks), incluyendo clasificación de texto.
Referencias a implementaciones en bibliotecas populares de GNN.
Primeros pasos con Simplificando Redes Convolucionales de Grafos
Acceder al modelo: Clonar el repositorio de GitHub.
Configurar el entorno: Instalar dependencias usando `pip install -r requirements.txt`.
Preparar los datos: Descargar el conjunto de datos Reddit y colocarlo en el directorio `data/`.
Entrenar para redes de citación: Ejecutar `python citation.py --dataset [nombre_dataset] --tuned`.
Entrenar para Reddit: Ejecutar `python reddit.py --inductive --test`.
Integrar: Adaptar los scripts proporcionados para conjuntos de datos personalizados o tareas posteriores.
Casos de uso de Simplificando Redes Convolucionales de Grafos
- Clasificación de Nodos
- Clasificación de Texto
- Aprendizaje de Características de Grafos
- Entrenamiento Eficiente de GNNs
- Benchmarking de GNNs
