跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

ConvMixer

该存储库提供了 ConvMixer 的实现,这是一种用于图像识别任务的卷积神经网络架构。它基于论文 "Patches Are All You Need? 🤷",并提供预训练模型权重用于评估以及在 ImageNet-1k 和 CIFAR-10 等数据集上进行训练的代码。

查看仓库
分享
查看仓库
分享

此 GitHub 存储库 locuslab/convmixer 托管了 ConvMixer 的实现,这是一种在 ICLR 2022 论文 "Patches Are All You Need? 🤷"(作者:Asher Trockman 和 Zico Kolter)中详细介绍的神经网络架构。ConvMixer 模型的主要代码位于 `convmixer.py`。该项目利用 `pytorch-image-models` (timm) 框架进行训练,并对该框架进行了修改以支持 ConvMixer。

阅读更多

`pytorch-image-models` 框架内的主要修改包括添加 `timm/models/convmixer.py`,更新 `timm/models/__init__.py`,以及集成一个 "OneCycle" 学习率调度器及其相应的调度器文件。尽管提到了 OneCycle 调度器,但作者建议标准的余弦调度器也可用于训练 ConvMixer。

该存储库提供了几种 ConvMixer 变体的预训练模型权重,包括 ConvMixer-1536/20、ConvMixer-768/32 和 ConvMixer-1024/20,并附有其核大小、补丁大小和文件大小的详细信息。提供了在 ImageNet-1k 等数据集上评估这些模型的说明和示例命令,目标是实现高精度。例如,ConvMixer-1536/20 在 ImageNet-1k 验证集上的预期准确率为 81.37%。

还详细介绍了训练 ConvMixer 的方法,并提供了一个使用 ImageNet-1k 在多 GPU 设置上进行分布式训练的示例命令。训练命令指定了批量大小、工作线程数、优化器、训练轮数、学习率调度器、增强技术(例如 RandAugment、CutMix、MixUp)和输入大小等超参数。该存储库还包含一个简化的、可在推文中展示的 ConvMixer 架构 Python 版本。

此外,还链接了一个用于在 CIFAR-10 上训练 ConvMixer 的独立存储库,并提供了关于调整 `--scale` 等训练参数以适应较小输入尺寸的建议。该项目是根据 MIT 许可证开源的,鼓励社区贡献和进一步开发。

  • 类别AI 模型与大语言模型
  • 定价模式开源
  • 部署云端, 自托管
  • 平台网页版

  • ConvMixer 神经网络架构的实现

  • 基于研究论文 "Patches Are All You Need? 🤷"

  • 包含训练 ConvMixer 的代码

  • 提供用于评估的预训练模型权重

  • 支持在 ImageNet-1k 和 CIFAR-10 数据集上进行训练

  • 利用 `pytorch-image-models` (timm) 框架

  • 包含 "OneCycle" 学习率调度器的实现

  • 提供模型评估的示例命令

  • 包含分布式训练的示例命令

  • 包含 ConvMixer 模型的一个简化、可推文版本

  • 提供可下载的模型权重

  • 根据 MIT 许可证开源

  1. 访问模型:将 GitHub 存储库克隆到本地机器。

  2. 设置环境:安装必要的 Python 库,包括 PyTorch 和 `pytorch-image-models`。

  3. 加载模型:使用提供的 Python 脚本实例化一个 ConvMixer 模型。

  4. 评估模型:使用 `validate.py` 脚本,配合下载的权重和验证数据集。

  5. 训练模型:使用指定的 数据集路径和训练参数执行 `distributed_train.sh` 脚本。

  6. 集成:为自定义训练循环或推理管道改编 `convmixer.py` 代码。

  • 图像分类
  • 模型评估
  • 自定义模型训练
  • 研究与开发
  • 迁移学习
  • 基准测试

ConvMixer 评价

加载中...

与 ConvMixer 类似的热门AI工具

ConvBERT

AI GitHub 仓库

ConvBERT 是一个开源的 AI 模型,用于预训练语言模型,引入了具有基于跨度的动态卷积的新型架构。此 GitHub 存储库提供了预训练和微调 ConvBERT 模型的代码,已在 V100 GPU 上进行了测试,并包含使用 TensorFlow 的说明。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

开源的 AI 模型,用于预训练语言模型,引入了具有基于跨度的动态卷积的新型架构。此 GitHub 存储库提供了预训练和微调 ConvBERT 模型的代码,已在 V100 GPU 上进行了测试,并包含使用 TensorFlow 的说明。ConvBERT 是一个开源的 AI 模型,用于预训练语言模型,引入了具有基于跨度的动态卷积的新型架构。此 GitHub 存储库提供了预训练和微调 ConvBERT 模型的代码,已在 V100 GPU 上进行了测试,并包含使用 TensorFlow 的说明。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

RepVGG

AI GitHub 仓库

RepVGG 是一种强大而简单的卷积神经网络 (ConvNet) 架构,可在 ImageNet 上实现高精度。它采用了 VGG 风格的设计并结合了重参数化技术,从而实现了高效的推理。该项目提供了预训练模型、训练代码以及用于各种计算机视觉任务的示例。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

强大而简单的卷积神经网络 (ConvNet) 架构,可在 ImageNet 上实现高精度。它采用了 VGG 风格的设计并结合了重参数化技术,从而实现了高效的推理。该项目提供了预训练模型、训练代码以及用于各种计算机视觉任务的示例。RepVGG 是一种强大而简单的卷积神经网络 (ConvNet) 架构,可在 ImageNet 上实现高精度。它采用了 VGG 风格的设计并结合了重参数化技术,从而实现了高效的推理。该项目提供了预训练模型、训练代码以及用于各种计算机视觉任务的示例。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

Vision Transformer

AI GitHub 仓库

Vision Transformer (ViT) 仓库提供了用于图像识别任务的模型和代码。它包括 Vision Transformer 和 MLP-Mixer 架构的实现,这些模型已在 ImageNet 和 ImageNet-21k 数据集上进行了预训练,并提供了 JAX/Flax 中的微调代码。

计算机视觉工具
查看工具

AI GitHub 仓库

Vision Transformer (ViT) 仓库提供了用于图像识别任务的模型和代码。它包括 Vision Transformer 和 MLP-Mixer 架构的实现,这些模型已在 ImageNet 和 ImageNet-21k 数据集上进行了预训练,并提供了 JAX/Flax 中的微调代码。

计算机视觉工具
查看 AI GitHub 仓库 Top 250

SPP_net

AI GitHub 仓库

SPP_net 是用于深度卷积网络的空间金字塔池化算法的重新实现,应用于视觉识别领域。它旨在复现一篇 2014 年 ECCV 论文中的目标检测结果,并利用 Caffe 框架方便代码发布。该项目提供了用于训练和微调模型的代码。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

用于深度卷积网络的空间金字塔池化算法的重新实现,应用于视觉识别领域。它旨在复现一篇 2014 年 ECCV 论文中的目标检测结果,并利用 Caffe 框架方便代码发布。该项目提供了用于训练和微调模型的代码。SPP_net 是用于深度卷积网络的空间金字塔池化算法的重新实现,应用于视觉识别领域。它旨在复现一篇 2014 年 ECCV 论文中的目标检测结果,并利用 Caffe 框架方便代码发布。该项目提供了用于训练和微调模型的代码。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

Vision GNN (ViG)

AI GitHub 仓库

Vision GNN (ViG) 是华为诺亚方舟实验室开发的 Vision Graph Neural Networks 的 PyTorch 实现。它为图像处理任务提供了高效的 AI 主干网络,包括 ViG 和 Pyramid ViG 架构的预训练模型和训练脚本。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

华为诺亚方舟实验室开发的 Vision Graph Neural Networks 的 PyTorch 实现。它为图像处理任务提供了高效的 AI 主干网络,包括 ViG 和 Pyramid ViG 架构的预训练模型和训练脚本。Vision GNN (ViG) 是华为诺亚方舟实验室开发的 Vision Graph Neural Networks 的 PyTorch 实现。它为图像处理任务提供了高效的 AI 主干网络,包括 ViG 和 Pyramid ViG 架构的预训练模型和训练脚本。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

Pythae

AI GitHub 仓库

Pythae 提供了一个统一的平台,用于使用 Pytorch 实现变分自编码器(VAE)。它为研究人员和开发人员提供了一个全面的工具包,以实验和优化 VAE 模型,促进机器学习和人工智能研究的进展。

机器学习平台
查看工具

AI GitHub 仓库

提供了一个统一的平台,用于使用 Pytorch 实现变分自编码器(VAE)。它为研究人员和开发人员提供了一个全面的工具包,以实验和优化 VAE 模型,促进机器学习和人工智能研究的进展。Pythae 提供了一个统一的平台,用于使用 Pytorch 实现变分自编码器(VAE)。它为研究人员和开发人员提供了一个全面的工具包,以实验和优化 VAE 模型,促进机器学习和人工智能研究的进展。

机器学习平台
查看 AI GitHub 仓库 Top 250

Keras

AI GitHub 仓库

Keras是一个开源深度学习库,旨在为人类服务。它简化了构建神经网络的过程,并允许开发者在GitHub上为其开发做出贡献。

机器学习平台
查看工具

AI GitHub 仓库

开源深度学习库,旨在为人类服务。它简化了构建神经网络的过程,并允许开发者在GitHub上为其开发做出贡献。Keras是一个开源深度学习库,旨在为人类服务。它简化了构建神经网络的过程,并允许开发者在GitHub上为其开发做出贡献。

精选机器学习平台
查看 AI GitHub 仓库 Top 250

PyTorch

AI GitHub 仓库

PyTorch是一个开源机器学习库,提供在Python中构建动态神经网络的工具,利用强大的GPU加速实现高效计算。

机器学习与数据科学
查看工具

AI GitHub 仓库

开源机器学习库,提供在Python中构建动态神经网络的工具,利用强大的GPU加速实现高效计算。PyTorch是一个开源机器学习库,提供在Python中构建动态神经网络的工具,利用强大的GPU加速实现高效计算。

精选机器学习与数据科学
查看 AI GitHub 仓库 Top 250
1/8