DimeNet и DimeNet++

Описание

DimeNet и DimeNet++ представляют собой значительный прогресс в области графовых нейронных сетей для молекул. Оригинальная модель DimeNet, представленная в статье «Directional Message Passing for Molecular Graphs» (ICLR 2020), использует направленную информацию для улучшения передачи сообщений между атомами, что приводит к более точным представлениям молекулярных структур и свойств. Этот подход повышает способность модели улавливать сложные взаимодействия внутри молекул.

DimeNet++, модель-преемник, представленная в статье «Fast and Uncertainty-Aware Directional Message Passing for Non-Equilibrium Molecules» (NeurIPS-W 2020), опирается на основу DimeNet, внося существенные улучшения в скорость и точность. Сообщается, что она до 8 раз быстрее и на 10% точнее оригинальной DimeNet, что делает ее более практичным выбором для крупномасштабных молекулярных симуляций и приложений в области открытия лекарств. Реализация, представленная в этом репозитории GitHub, служит эталоном для обеих моделей.

Репозиторий включает в себя основные компоненты для запуска и экспериментирования с этими моделями. Он содержит ноутбуки для обучения (`train.ipynb`) и прогнозирования (`predict.ipynb`), позволяющие пользователям легко применять модели к своим наборам данных. Для пользователей, которым требуется обучение на кластере, также доступен скрипт (`train_seml.py`), интегрированный с Sacred и SEML. Кроме того, в папке `pretrained` предоставлены предварительно обученные модели как для DimeNet++, так и для прототипа TensorFlow 2.0, что облегчает более быстрое экспериментирование и развертывание.

Ключевые архитектурные детали и примечания по реализации доступны в репозитории, включая конкретные стратегии инициализации выходных слоев и обсуждение потенциальных проблем или ошибок. Проект реализован с использованием Python и TensorFlow в качестве основной платформы глубокого обучения, поддерживаемой такими библиотеками, как NumPy, SciPy, SymPy и TensorFlow Addons. Проект также освещает другие реализации на JAX & Haiku и PyTorch Geometric, что указывает на активное исследовательское сообщество вокруг этих моделей. Модели особенно актуальны для исследователей и разработчиков в области вычислительной химии, материаловедения и хемоинформатики, стремящихся использовать глубокое обучение для прогнозирования и анализа свойств молекул.

Главное о DimeNet и DimeNet++

• Направленная передача сообщений для молекулярных графов

• Архитектура модели DimeNet

• Архитектура модели DimeNet++

• Эталонная реализация

• Включен ноутбук для обучения

• Включен ноутбук для прогнозирования

• Доступен скрипт для обучения на кластере

• Предоставлены предварительно обученные модели

• Доступен прототип TensorFlow 2.0

• Фокус на прогнозировании энергии и сил (согласно рекомендации GemNet)

• Прогнозирование с учетом неопределенности (DimeNet++)

Начало работы с DimeNet и DimeNet++

1. 1

   Доступ к модели: Клонируйте репозиторий GitHub.

2. 2

   Настройка среды: Установите необходимые пакеты Python (TensorFlow, NumPy, SciPy, SymPy, TensorFlow Addons).

3. 3

   Интеграция через API: Используйте предоставленные ноутбуки или скрипты для обучения и прогнозирования.

4. 4

   Экспериментирование с моделями: Загрузите предварительно обученные модели для более быстрой итерации.

5. 5

   Адаптация для обучения на кластере: Используйте скрипт `train_seml.py` для распределенного обучения.

6. 6

   Генерация прогнозов: Используйте ноутбук `predict.ipynb` с обученными моделями.

Варианты использования DimeNet и DimeNet++

• Прогнозирование свойств молекул
• Открытие лекарств
• Материаловедение
• Исследования в области хемоинформатики
• Вычислительная химия

Часто задаваемые вопросы DimeNet и DimeNet++

• Что такое модели DimeNet и DimeNet++?

  DimeNet и DimeNet++ — это передовые нейросетевые модели, предназначенные для анализа молекулярных графов. Они используют направленную передачу сообщений для улавливания сложных атомных взаимодействий, обеспечивая точное прогнозирование свойств молекул.

• В чем разница между DimeNet и DimeNet++?

  DimeNet++ является преемником DimeNet и предлагает значительные улучшения в скорости и точности. Сообщается, что она до 8 раз быстрее и на 10% точнее оригинальной модели DimeNet.

• Какие прогнозы могут делать модели DimeNet?

  Модели DimeNet предназначены для прогнозирования свойств молекул. В репозитории также упоминается рекомендация GemNet для прогнозирования энергии и сил.

• Является ли код для DimeNet и DimeNet++ общедоступным?

  Да, эталонная реализация моделей DimeNet и DimeNet++ доступна на GitHub в репозитории `gasteigerjo/dimenet`.

• Каковы основные исследовательские статьи по DimeNet и DimeNet++?

  DimeNet была предложена в статье «Directional Message Passing for Molecular Graphs» (ICLR 2020), а DimeNet++ была представлена в статье «Fast and Uncertainty-Aware Directional Message Passing for Non-Equilibrium Molecules» (NeurIPS-W 2020).

• Предоставляет ли репозиторий предварительно обученные модели?

  Да, репозиторий включает два набора предварительно обученных моделей в папке `pretrained` для более быстрого экспериментирования.

• Какой фреймворк глубокого обучения используется для этой реализации?

  Эта реализация в основном использует TensorFlow (версия 2.1 или новее) в качестве фреймворка глубокого обучения.

• Есть ли известные проблемы с кодом?

  Да, в репозитории признаются некоторые известные проблемы и ошибки в коде и статье, которые могут потребовать переобучения моделей для их исправления.

• Могут ли модели DimeNet использоваться для прогнозирования энергии и сил?

  Хотя модели DimeNet предназначены для общего прогнозирования свойств молекул, авторы рекомендуют свою новую модель GemNet специально для прогнозирования энергии и сил.

• Каковы требования для запуска кода?

  Код требует Python с такими пакетами, как NumPy, SciPy (>=1.3), SymPy (>=1.5), TensorFlow (>=2.1), TensorFlow Addons и tqdm.