Deskripsi
Repositori GitHub ini menampung implementasi resmi dari model Simplifying Graph Convolutional Networks (SGC), seperti yang dirinci dalam makalah ICML2019. SGC adalah kemajuan dalam Graph Convolutional Networks (GCN) yang menyederhanakan arsitektur dengan menghilangkan non-linearitas dan meruntuhkan matriks bobot. Transformasi ini menghasilkan model linier yang mempertahankan kinerja kompetitif sambil secara drastis mengurangi waktu pelatihan dan sumber daya komputasi.
Baca Selengkapnya
Implementasi ini mendukung berbagai dataset graf, termasuk jaringan kutipan seperti Cora, Citeseer, dan Pubmed, serta jaringan sosial seperti Reddit. Untuk jaringan kutipan, model mencapai akurasi yang patut diperhatikan, misalnya, 81,0% pada Cora, 71,9% pada Citeseer, dan 78,9% pada Pubmed, dengan waktu pelatihan serendah 0,13 detik pada GTX 1080 Ti. Untuk dataset Reddit, model ini mencapai skor F1 sebesar 94,9% dalam 2,7 detik.
Repositori ini mencakup kode untuk pra-pemrosesan data, definisi model, pelatihan, dan evaluasi. Ini juga memberikan panduan tentang penyetelan hyperparameter, terutama untuk weight decay, menggunakan alat seperti hyperopt. Saran praktis ditawarkan, seperti menormalkan fitur untuk memiliki rata-rata nol dan standar deviasi satu untuk mempercepat konvergensi, sebuah teknik yang bermanfaat untuk SGC dan model linier lainnya.
Selain implementasi inti, repositori ini menunjuk ke sumber daya tambahan dan implementasi referensi di pustaka populer seperti Deep Graph Library (DGL), PyTorch Geometric, Spektral, StellarGraph, dan tf_geometric. Ini juga menampilkan cabang yang sedang dikerjakan untuk studi ablasi dan kode untuk tugas hilir, dimulai dengan klasifikasi teks. Proyek ini adalah sumber daya yang berharga bagi para peneliti dan praktisi yang ingin memanfaatkan model jaringan saraf graf yang efisien dan efektif.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud, Di-host sendiri
- PlatformWeb
Fitur Inti Menyederhanakan Jaringan Konvolusional Graf
Implementasi resmi dari makalah Simplifying Graph Convolutional Networks (SGC).
Arsitektur Graph Convolutional Network (GCN) yang ramping.
Menghilangkan non-linearitas dan meruntuhkan matriks bobot untuk model linier.
Waktu pelatihan yang jauh berkurang dibandingkan dengan GCN tradisional.
Mencapai kinerja kompetitif pada dataset benchmark.
Mendukung jaringan kutipan (Cora, Citeseer, Pubmed) dan jaringan sosial (Reddit).
Mencakup kode untuk pra-pemrosesan data, pelatihan model, dan evaluasi.
Memberikan panduan tentang penyetelan hyperparameter.
Menawarkan saran praktis tentang normalisasi fitur untuk konvergensi yang dipercepat.
Basis kode untuk tugas hilir, termasuk klasifikasi teks.
Referensi ke implementasi di pustaka GNN populer.
Memulai dengan Menyederhanakan Jaringan Konvolusional Graf
Akses model: Klon repositori GitHub.
Siapkan lingkungan: Instal dependensi menggunakan `pip install -r requirements.txt`.
Siapkan data: Unduh dataset Reddit dan letakkan di direktori `data/`.
Latih untuk jaringan kutipan: Jalankan `python citation.py --dataset [nama_dataset] --tuned`.
Latih untuk Reddit: Jalankan `python reddit.py --inductive --test`.
Integrasikan: Adaptasi skrip yang disediakan untuk dataset kustom atau tugas hilir.
Kasus Penggunaan Menyederhanakan Jaringan Konvolusional Graf
- Klasifikasi Node
- Klasifikasi Teks
- Pembelajaran Fitur Graf
- Pelatihan GNN yang Efisien
- Benchmarking GNN
