설명
Graph Neural PDEs는 twitter-research에서 개발한 GitHub 리포지토리로, GRAND(Graph Neural Diffusion) 및 BLEND(Beltrami Flow and Neural Diffusion on Graphs) 논문의 소스 코드를 제공합니다. 이 모델들은 그래프에서의 딥러닝을 연속적인 확산 과정으로 개념화하며, 그래프 신경망(GNN)은 기본 편미분 방정식(PDE)의 이산화로 작용합니다.
더 읽기
핵심 혁신은 GNN의 레이어 구조와 위상이 시간 및 공간 연산자의 이산화 선택에 어떻게 매핑되는지에 있습니다. 이러한 원칙적인 개발은 깊이 제한, 과도한 평활화 및 병목 현상과 같은 그래프 학습의 일반적인 문제를 극복하도록 설계된 새로운 GNN 클래스로 이어집니다. 이러한 모델의 핵심 측면은 암시적 및 명시적 이산화 체계를 통해 해결되는 데이터 섭동에 대한 안정성입니다.
이 리포지토리에는 다양한 표준 그래프 벤치마크에서 경쟁력 있는 성능을 입증한 GRAND의 선형 및 비선형 버전 구현이 포함되어 있습니다. BLEND는 비유클리드 공간에서 작동하여 노드 특징 및 위치 인코딩을 공동으로 진화시킴으로써 GRAND를 확장합니다. 이는 그래프 리와이어링을 위한 강력한 방법을 제공합니다. 이 프로젝트는 또한 PyTorch 및 관련 라이브러리를 중심으로 필요한 종속성을 설정하기 위한 요구 사항과 명령을 자세히 설명하고, 특히 CUDA 버전 불일치와 관련된 일반적인 설치 문제에 대한 문제 해결 조언을 제공합니다.
실험 실행에 관심 있는 사용자를 위해 리포지토리에는 GRAND 및 BLEND 모두에 대한 데이터셋 및 전처리 단계가 개략적으로 설명되어 있습니다. 데이터셋을 위한 `./data` 폴더와 BLEND를 위한 위치 인코딩을 위한 추가 `./data/pos_encodings` 폴더를 지정합니다. Cora, Citeseer, Computers, Photo 및 ogbn-arxiv와 같은 데이터셋에서 실험을 실행하는 지침과 위치 인코딩을 생성하거나 다운로드하는 방법에 대한 지침이 제공됩니다.
이 프로젝트는 Twitter의 버그 바운티 프로그램을 통해 기여를 장려하고 보안 문제를 보고합니다. Apache-2.0 라이선스 하에 라이선스가 부여되어 사용 및 수정이 자유롭습니다. 리포지토리에는 GRAND 및 BLEND 논문에 대한 인용도 포함되어 있어 연구자들이 기초적인 작업을 참조할 수 있습니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포클라우드, 셀프 호스팅
- 플랫폼웹
Graph Neural PDEs의 핵심 기능
GRAND(Graph Neural Diffusion) 모델 구현
BLEND(Beltrami Flow and Neural Diffusion on Graphs) 모델 구현
그래프에서의 딥러닝을 연속적인 확산 과정으로 취급
GNN을 기본 PDE의 이산화로 모델링
과도한 평활화 및 깊이 제한과 같은 그래프 학습 문제 해결
데이터 섭동에 대한 안정성 제공
GRAND의 선형 및 비선형 버전 포함
BLEND는 그래프 리와이어링을 위한 비유클리드 확장 제공
종속성(PyTorch 등)에 대한 자세한 설치 지침
데이터셋 및 위치 인코딩 준비에 대한 지침
벤치마크 데이터셋에서 실험 실행을 위한 스크립트
종속성 설치 문제 해결
Apache-2.0 라이선스
Graph Neural PDEs 시작하기
환경 설정: 지정된 Python 버전으로 conda 환경을 생성하고 활성화합니다.
종속성 설치: pip를 사용하여 PyTorch, PyTorch Geometric 등을 포함한 필수 라이브러리를 설치합니다.
데이터 준비: 데이터셋을 위한 `./data` 폴더와 BLEND를 위한 `./data/pos_encodings`를 생성합니다.
위치 인코딩 생성: 제공된 스크립트를 사용하거나 BLEND에 필요한 경우 사전 계산된 인코딩을 다운로드합니다.
실험 실행: `src` 디렉토리로 이동하여 데이터셋 매개변수와 함께 `run_GNN.py`를 실행합니다.
설치 문제 해결: 설치 오류가 발생하는 경우 CUDA 및 PyTorch 버전을 확인합니다.
Graph Neural PDEs의 사용 사례
- 그래프 신경망 연구
- 노드 분류
- 그래프 리와이어링
- 과도한 평활화 해결
- GNN 모델 벤치마킹
- 연속 그래프 학습







