メインコンテンツへスキップ
ToolPotion
AI アドバイザー
送信(無料)

ConvMixer

AI GitHub リポジトリAIモデルとLLMオープンソース · Web

このリポジトリは、画像認識タスク用の畳み込みニューラルネットワークアーキテクチャであるConvMixerの実装を提供します。論文「Patches Are All You Need? 🤷」に基づいており、評価用の事前学習済みモデルの重みと、ImageNet-1kやCIFAR-10などのデータセットでのトレーニング用コードが含まれています。

リポジトリを見る
共有
リポジトリを見る
共有

このGitHubリポジトリ、locuslab/convmixerは、Asher TrockmanとZico KolterによるICLR 2022の論文「Patches Are All You Need? 🤷」で詳述されているニューラルネットワークアーキテクチャ、ConvMixerの実装をホストしています。ConvMixerモデルの主要なコードは`convmixer.py`にあります。このプロジェクトは、トレーニングのために`pytorch-image-models` (timm) フレームワークを活用しており、ConvMixerをサポートするためにこのフレームワークに変更が加えられています。

続きを読む

`pytorch-image-models`フレームワーク内の主な変更点には、`timm/models/convmixer.py`の追加、`timm/models/__init__.py`の更新、および対応するスケジューラファイルとともに"OneCycle"学習率スケジュールの統合が含まれます。OneCycleスケジュールは注目されていますが、著者らは標準的なコサインスケジュールもConvMixerのトレーニングに効果的である可能性を示唆しています。

このリポジトリは、ConvMixer-1536/20、ConvMixer-768/32、ConvMixer-1024/20を含むいくつかのConvMixerバリアントの事前学習済みモデルの重みを提供しており、カーネルサイズ、パッチサイズ、ファイルサイズに関する詳細が含まれています。ImageNet-1kなどのデータセットでこれらのモデルを評価するための指示とコマンド例が提供されており、高い精度を目指しています。例えば、ConvMixer-1536/20はImageNet-1k検証で81.37%の精度を達成すると予想されています。

ConvMixerのトレーニングについても詳細に説明されており、ImageNet-1kでのマルチGPUセットアップでの分散トレーニング用のコマンド例が含まれています。トレーニングコマンドは、バッチサイズ、ワーカー数、オプティマイザ、エポック数、学習率スケジュール、拡張手法(例:RandAugment、CutMix、MixUp)、および入力サイズなどのハイパーパラメータを指定します。このリポジトリには、Pythonで記述されたConvMixerアーキテクチャの簡略化された、ツイート可能なバージョンも含まれています。

さらに、CIFAR-10でConvMixerをトレーニングするための別のリポジトリへのリンクがあり、小さい入力サイズのための`--scale`のようなトレーニングパラメータの調整に関するアドバイスも提供されています。このプロジェクトはMITライセンスの下でオープンソースであり、コミュニティの貢献とさらなる開発を奨励しています。

  • カテゴリーAIモデルとLLM
  • 料金モデルオープンソース
  • デプロイクラウド, セルフホスト
  • プラットフォームWeb

  • ConvMixerニューラルネットワークアーキテクチャの実装

  • 研究論文「Patches Are All You Need? 🤷」に基づいています

  • ConvMixerのトレーニング用コードが含まれています

  • 評価用の事前学習済みモデルの重みを提供します

  • ImageNet-1kおよびCIFAR-10データセットでのトレーニングをサポートします

  • `pytorch-image-models` (timm) フレームワークを活用します

  • "OneCycle"学習率スケジューラの実装が含まれています

  • モデル評価用のコマンド例を提供します

  • 分散トレーニング用のコマンド例が含まれています

  • ConvMixerモデルの簡略化された、ツイート可能なバージョンが含まれています

  • ダウンロード可能なモデルの重みがあります

  • MITライセンスの下でオープンソースです

  1. モデルへのアクセス: GitHubリポジトリをローカルマシンにクローンします。

  2. 環境設定: PyTorchおよび`pytorch-image-models`を含む必要なPythonライブラリをインストールします。

  3. モデルのロード: 提供されているPythonスクリプトを使用してConvMixerモデルをインスタンス化します。

  4. モデルの評価: ダウンロードした重みと検証データセットを使用して`validate.py`スクリプトを使用します。

  5. モデルのトレーニング: 指定されたデータセットパスとトレーニングパラメータを使用して`distributed_train.sh`スクリプトを実行します。

  6. 統合: カスタムトレーニングループまたは推論パイプラインのために`convmixer.py`コードを適応させます。

  • 画像分類
  • モデル評価
  • カスタムモデルトレーニング
  • 研究開発
  • 転移学習
  • ベンチマーキング

ConvMixer のレビュー

読み込み中...

ConvMixer に似た人気のAIツール

ConvBERT

AI GitHub リポジトリ

ConvBERTは、スパンベースの動的畳み込みを特徴とする新しいアーキテクチャを持つ、言語モデルの事前学習のためのオープンソースAIモデルです。このGitHubリポジトリには、V100 GPUでテストされたConvBERTモデルの事前学習およびファインチューニング用のコードが含まれており、TensorFlowでの使用方法も記載されています。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

スパンベースの動的畳み込みを特徴とする新しいアーキテクチャを持つ、言語モデルの事前学習のためのオープンソースAIモデルです。このGitHubリポジトリには、V100 GPUでテストされたConvBERTモデルの事前学習およびファインチューニング用のコードが含まれており、TensorFlowでの使用方法も記載されています。ConvBERTは、スパンベースの動的畳み込みを特徴とする新しいアーキテクチャを持つ、言語モデルの事前学習のためのオープンソースAIモデルです。このGitHubリポジトリには、V100 GPUでテストされたConvBERTモデルの事前学習およびファインチューニング用のコードが含まれており、TensorFlowでの使用方法も記載されています。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

RepVGG

AI GitHub リポジトリ

RepVGGは、ImageNetで高い精度を達成する、強力かつシンプルなConvNetアーキテクチャです。VGGスタイルの設計に再パラメータ化技術を採用し、効率的な推論を可能にします。このプロジェクトでは、事前学習済みモデル、トレーニングコード、および様々なコンピュータビジョンタスクのためのサンプルを提供しています。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

ImageNetで高い精度を達成する、強力かつシンプルなConvNetアーキテクチャです。VGGスタイルの設計に再パラメータ化技術を採用し、効率的な推論を可能にします。このプロジェクトでは、事前学習済みモデル、トレーニングコード、および様々なコンピュータビジョンタスクのためのサンプルを提供しています。RepVGGは、ImageNetで高い精度を達成する、強力かつシンプルなConvNetアーキテクチャです。VGGスタイルの設計に再パラメータ化技術を採用し、効率的な推論を可能にします。このプロジェクトでは、事前学習済みモデル、トレーニングコード、および様々なコンピュータビジョンタスクのためのサンプルを提供しています。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

Vision Transformer

AI GitHub リポジトリ

Vision Transformer (ViT) リポジトリは、画像認識タスク用のモデルとコードを提供します。ImageNet および ImageNet-21k データセットで事前学習済みの Vision Transformer および MLP-Mixer アーキテクチャの実装が含まれており、JAX/Flax でのファインチューニング用コードも提供します。

コンピュータービジョンツール
ツールを見る

AI GitHub リポジトリ

Vision Transformer (ViT) リポジトリは、画像認識タスク用のモデルとコードを提供します。ImageNet および ImageNet-21k データセットで事前学習済みの Vision Transformer および MLP-Mixer アーキテクチャの実装が含まれており、JAX/Flax でのファインチューニング用コードも提供します。

コンピュータービジョンツール
AI GitHub リポジトリ トップ250を見る

SPP_net

AI GitHub リポジトリ

SPP_netは、視覚認識におけるディープ畳み込みネットワークのためのSpatial Pyramid Poolingアルゴリズムの再実装です。2014年のECCV論文の物体検出結果を再現することを目指し、コード公開の容易さからCaffeを利用しています。本プロジェクトは、モデルのトレーニングとファインチューニングのためのコードを提供します。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

視覚認識におけるディープ畳み込みネットワークのためのSpatial Pyramid Poolingアルゴリズムの再実装です。2014年のECCV論文の物体検出結果を再現することを目指し、コード公開の容易さからCaffeを利用しています。本プロジェクトは、モデルのトレーニングとファインチューニングのためのコードを提供します。SPP_netは、視覚認識におけるディープ畳み込みネットワークのためのSpatial Pyramid Poolingアルゴリズムの再実装です。2014年のECCV論文の物体検出結果を再現することを目指し、コード公開の容易さからCaffeを利用しています。本プロジェクトは、モデルのトレーニングとファインチューニングのためのコードを提供します。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

Vision GNN (ViG)

AI GitHub リポジトリ

Vision GNN (ViG) は、Huawei Noah's Ark Lab によって開発された Vision Graph Neural Networks の PyTorch 実装です。ViG および Pyramid ViG アーキテクチャの両方について、事前学習済みモデルとトレーニングスクリプトを含み、画像処理タスク向けの効率的な AI…

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

Huawei Noah's Ark Lab によって開発された Vision Graph Neural Networks の PyTorch 実装です。ViG および Pyramid ViG アーキテクチャの両方について、事前学習済みモデルとトレーニングスクリプトを含み、画像処理タスク向けの効率的な AI…Vision GNN (ViG) は、Huawei Noah's Ark Lab によって開発された Vision Graph Neural Networks の PyTorch 実装です。ViG および Pyramid ViG アーキテクチャの両方について、事前学習済みモデルとトレーニングスクリプトを含み、画像処理タスク向けの効率的な AI…

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る

Pythae

AI GitHub リポジトリ

Pythaeは、Pytorchを使用した変分オートエンコーダ(VAE)実装のための統一プラットフォームを提供します。研究者や開発者に、VAEモデルを実験し最適化するための包括的なツールキットを提供し、機械学習とAI研究の進展を促進します。

機械学習プラットフォーム
ツールを見る

AI GitHub リポジトリ

Pytorchを使用した変分オートエンコーダ(VAE)実装のための統一プラットフォームを提供します。研究者や開発者に、VAEモデルを実験し最適化するための包括的なツールキットを提供し、機械学習とAI研究の進展を促進します。Pythaeは、Pytorchを使用した変分オートエンコーダ(VAE)実装のための統一プラットフォームを提供します。研究者や開発者に、VAEモデルを実験し最適化するための包括的なツールキットを提供し、機械学習とAI研究の進展を促進します。

機械学習プラットフォーム
AI GitHub リポジトリ トップ250を見る

Keras

AI GitHub リポジトリ

Kerasは、人間のために設計されたオープンソースの深層学習ライブラリです。神経ネットワークの構築プロセスを簡素化し、開発者がGitHubでその開発に貢献できるようにします。

機械学習プラットフォーム
ツールを見る

AI GitHub リポジトリ

人間のために設計されたオープンソースの深層学習ライブラリです。神経ネットワークの構築プロセスを簡素化し、開発者がGitHubでその開発に貢献できるようにします。Kerasは、人間のために設計されたオープンソースの深層学習ライブラリです。神経ネットワークの構築プロセスを簡素化し、開発者がGitHubでその開発に貢献できるようにします。

注目機械学習プラットフォーム
AI GitHub リポジトリ トップ250を見る

PyTorch

AI GitHub リポジトリ

PyTorchは、Pythonで動的ニューラルネットワークを構築するためのツールを提供するオープンソースの機械学習ライブラリであり、高速な計算のために強力なGPUアクセラレーションを活用しています。

機械学習とデータサイエンス
ツールを見る

AI GitHub リポジトリ

Pythonで動的ニューラルネットワークを構築するためのツールを提供するオープンソースの機械学習ライブラリであり、高速な計算のために強力なGPUアクセラレーションを活用しています。PyTorchは、Pythonで動的ニューラルネットワークを構築するためのツールを提供するオープンソースの機械学習ライブラリであり、高速な計算のために強力なGPUアクセラレーションを活用しています。

注目機械学習とデータサイエンス
AI GitHub リポジトリ トップ250を見る
1 / 8