Насколько внимательны сети графовых внимания?

Проект структурирован таким образом, чтобы облегчить воспроизведение экспериментов в различных фреймворках глубокого обучения. Ключевые подкаталоги включают `arxiv_mag_products_collab_citation2_noise` для экспериментов по предсказанию узлов, предсказанию связей и устойчивости к шуму; `proteins` для результатов предсказания узлов ogbn-proteins; `dictionary_lookup` для бенчмарка DictionaryLookup; и `tf-gnn-samples` для экспериментов с наборами данных VarMisuse и QM9. Такая модульная структура позволяет пользователям легко ориентироваться и использовать код, относящийся к их конкретным исследовательским интересам.

Модель GATv2, являющаяся основным компонентом исследования, доступна через интеграцию с популярными библиотеками графовых нейронных сетей. Она доступна в PyTorch Geometric, DGL и библиотеке TensorFlow GNN от Google, с предоставлением прямых ссылок для легкого доступа к соответствующей документации и реализациям. Такая широкая доступность обеспечивает гибкость для пользователей, работающих с различными предпочтительными инструментами.

Требования для запуска кода в целом согласованы: зависимости от PyTorch (версия 1.7.1) и PyTorch Geometric (версия 1.7.0). В определенных подкаталогах могут быть дополнительные зависимости, такие как DGL (версия 0.6.0) для подкаталога `proteins` или TensorFlow (версия 1.13) для `tf-gnn-samples`. Проект отмечает, что эксперименты могут выполняться как на оборудовании GPU, так и на CPU, что обеспечивает доступность для широкого спектра вычислительных ресурсов.

Этот репозиторий бесценен для всех, кто заинтересован в понимании нюансов внимания в графовых нейронных сетях, воспроизведении передовых исследований в этой области или применении передовых моделей GATv2 для собственных задач машинного обучения на основе графов. Комплексная структура кода и интеграция с фреймворками делают его надежным ресурсом для сообщества графового обучения.