説明
Graph Neural PDEs は、twitter-research によって開発された GitHub リポジトリであり、彼らの出版物である GRAND (Graph Neural Diffusion) および BLEND (Beltrami Flow and Neural Diffusion on Graphs) のソースコードを提供しています。これらのモデルは、グラフ上のディープラーニングを連続的な拡散プロセスとして概念化しており、グラフニューラルネットワーク(GNN)は、基盤となる偏微分方程式(PDE)の離散化として機能します。
続きを読む
主な革新性は、GNN の層構造とトポロジーが、時間的および空間的演算子の離散化選択にどのようにマッピングされるかにあります。この原理に基づいた開発により、深さの制限、過平滑化、ボトルネックといったグラフ学習における一般的な問題を克服するように設計された新しいクラスの GNN が誕生しました。これらのモデルの重要な側面は、暗黙的および明示的な離散化スキームの両方によって対処される、データ摂動に対する安定性です。
このリポジトリには、さまざまな標準グラフベンチマークで競争力のあるパフォーマンスを示した GRAND の線形版および非線形版の実装が含まれています。BLEND は、非ユークリッド空間で動作し、ノード特徴と位置エンコーディングを共同で進化させることで GRAND を拡張します。これにより、グラフのリワイヤリングのための堅牢な方法が提供されます。このプロジェクトでは、主に PyTorch および関連ライブラリに焦点を当てた、必要な依存関係をセットアップするための要件とコマンドも詳述しており、特に CUDA バージョンの不一致に関連する一般的なインストール問題のトラブルシューティングに関するアドバイスも提供しています。
実験の実行に関心のあるユーザーのために、リポジトリは GRAND および BLEND の両方のデータセットと前処理の手順を概説しています。データセット用に `./data` フォルダを作成し、BLEND 用には位置エンコーディング用にさらに `./data/pos_encodings` フォルダを作成することを指定しています。Cora、Citeseer、Computers、Photo、ogbn-arxiv などのデータセットで実験を実行するための指示と、位置エンコーディングの生成またはダウンロードに関するガイダンスが提供されています。
このプロジェクトは、貢献を奨励し、Twitter のバグバウンティプログラムを通じてセキュリティ問題を報告することを推奨しています。Apache-2.0 ライセンスの下でライセンスされており、自由に使用および変更が可能です。リポジトリには、GRAND および BLEND の論文への引用も含まれており、研究者は基礎となる作業を参照することができます。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド, セルフホスト
- プラットフォームWeb
Graph Neural PDEsの主要機能
GRAND (Graph Neural Diffusion) モデルの実装
BLEND (Beltrami Flow and Neural Diffusion on Graphs) モデルの実装
グラフ上のディープラーニングを連続的な拡散プロセスとして扱う
GNN を基盤となる PDE の離散化としてモデル化
過平滑化や深さの制限といったグラフ学習の課題に対処
データ摂動に対する安定性を提供
GRAND の線形版および非線形版を含む
BLEND はグラフのリワイヤリングのための非ユークリッド拡張を提供
依存関係(PyTorch など)のインストール手順の詳細
データセットおよび位置エンコーディングの準備に関するガイダンス
ベンチマークデータセットでの実験実行用スクリプト
依存関係インストール問題のトラブルシューティング
Apache-2.0 ライセンス
Graph Neural PDEsをはじめる
環境設定: 指定された Python バージョンで conda 環境を作成し、アクティブ化します。
依存関係のインストール: pip を使用して、PyTorch、PyTorch Geometric などを含む必要なライブラリをインストールします。
データの準備: データセット用に `./data` フォルダ、BLEND 用に `./data/pos_encodings` フォルダを作成します。
位置エンコーディングの生成: 提供されたスクリプトを使用するか、BLEND のために必要な場合は事前計算されたエンコーディングをダウンロードします。
実験の実行: `src` ディレクトリに移動し、データセットパラメータを指定して `run_GNN.py` を実行します。
インストール問題のトラブルシューティング: インストールエラーが発生した場合は、CUDA と PyTorch のバージョンを確認します。
Graph Neural PDEsの使用例
- グラフニューラルネットワーク研究
- ノード分類
- グラフのリワイヤリング
- 過平滑化への対処
- GNN モデルのベンチマーク
- 連続グラフ学習







