跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

TabFM 1.0.0 (PyTorch)

TabFM 1.0.0 是由 Google Research 开发的零-shot 表格基础模型,旨在对结构化数据进行分类和回归。它无需微调,并支持混合数值和分类列。

查看模型
分享
查看模型
分享

TabFM 1.0.0 (PyTorch) 是由 Google Research 开发的零-shot 表格基础模型。它旨在处理结构化数据上的分类和回归任务,特别是具有混合数值和分类列的表格数据。该模型无需微调或超参数搜索,允许用户将训练示例作为上下文传递,并在单次前向传递中进行预测。

阅读更多

该模型架构采用交替的行和列注意力机制,以捕捉特征交互和行级模式。列注意力使用集合变换器嵌入每个单元格的傅里叶特征,并通过诱导自注意力在行之间进行聚合。行压缩通过 CLS 令牌实现,这些令牌使用行级注意力和旋转位置嵌入(RoPE)将每行总结为一个密集向量。ICL 变换器是一个 24 块的因果变换器,操作这些压缩的行向量,将训练行视为上下文,并为测试行输出预测。

TabFM 针对二元和多类分类(最多 10 类)以及连续目标的回归进行了优化。它支持以 pandas DataFrames 或 numpy 数组的形式提供数据。该模型是在数亿个使用结构因果模型(SCMs)生成的合成数据集上训练的,这些模型编码了关于表格任务中典型因果结构的归纳偏见。

在 TabArena 上对 51 个数据集的性能评估显示,TabFM 在零-shot 模式下超越了经过大量调优的监督基线,包括梯度提升树。然而,它也有一些限制,例如分类的最大类数为 10 类,以及内存使用量随着训练行数的增加而增加。它不适用于商业用途、图像、音频、视频、原始文本或非表格结构化数据。

模型权重根据 TabFM 非商业许可证 v1.0 发布,源代码在 Apache 2.0 许可证下提供。

  • 类别AI 模型与大语言模型
  • 定价模式开源
  • 部署云端
  • 平台网页版

  • 零-shot 表格模型

  • 支持分类和回归

  • 处理混合数值和分类数据

  • 无需微调

  • 交替的行和列注意力

  • 在合成数据集上训练

  • 分类最多 10 类

  • 非商业许可证

  1. 访问模型:访问 Hugging Face 页面

  2. 身份验证:使用 Hugging Face 凭据

  3. 设置环境:安装 PyTorch

  4. 通过 API 集成:使用 Hugging Face Hub API

  5. 优化:在代表性数据上进行评估

  • 二元分类
  • 多类分类
  • 回归分析
  • DataFrame 集成
  • Numpy 数组支持

Google 旗下产品

TabFM 1.0.0 (PyTorch) 评价

加载中...

与 TabFM 1.0.0 (PyTorch) 类似的热门AI工具

Kumo Tabular

AI 模型

Kumo Tabular 是 NVIDIA 预训练的表格基础模型,旨在进行分类和回归任务。它在使用结构化数据预测类别概率方面提供了先进的能力,使其成为数据科学家和分析师的宝贵工具。

AI 模型与大语言模型
查看工具

AI 模型

NVIDIA 预训练的表格基础模型,旨在进行分类和回归任务。它在使用结构化数据预测类别概率方面提供了先进的能力,使其成为数据科学家和分析师的宝贵工具。Kumo Tabular 是 NVIDIA 预训练的表格基础模型,旨在进行分类和回归任务。它在使用结构化数据预测类别概率方面提供了先进的能力,使其成为数据科学家和分析师的宝贵工具。

AI 模型与大语言模型
查看 AI 模型 Top 5

SAINT

AI GitHub 仓库

该存储库提供了SAINT模型的官方PyTorch实现,旨在改进表格数据上的神经网络。它利用行注意力(row attention)和对比预训练(contrastive pre-training)技术来提高性能。该代码支持回归、二分类和多分类任务,为表格数据挑战提供了强大的解决方案。

机器学习平台
查看工具

AI GitHub 仓库

该存储库提供了SAINT模型的官方PyTorch实现,旨在改进表格数据上的神经网络。它利用行注意力(row attention)和对比预训练(contrastive pre-training)技术来提高性能。该代码支持回归、二分类和多分类任务,为表格数据挑战提供了强大的解决方案。

机器学习平台
查看 AI GitHub 仓库 Top 250

此 GitHub 存储库提供了 NeurIPS 2021 论文“重新审视表格数据的深度学习模型”的官方实现。它探讨了用于表格数据的深度学习架构,强调了 MLP 类模型作为强大的基线,并引入了 FT-Transformer 作为 Transformer 架构的强大改编。

AI 模型与大语言模型
查看工具

此 GitHub 存储库提供了 NeurIPS 2021 论文“重新审视表格数据的深度学习模型”的官方实现。它探讨了用于表格数据的深度学习架构,强调了 MLP 类模型作为强大的基线,并引入了 FT-Transformer 作为 Transformer 架构的强大改编。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

TabNet

AI GitHub 仓库

PyTorch TabNet 是 TabNet 论文的 PyTorch 实现,提供了一种用于表格数据学习的注意力机制和可解释方法。它支持分类、回归和多任务学习,并具备半监督预训练和即时数据增强等功能。该库易于使用且为生产环境就绪而设计。

机器学习平台
查看工具

AI GitHub 仓库

PyTorch TabNet 是 TabNet 论文的 PyTorch 实现,提供了一种用于表格数据学习的注意力机制和可解释方法。它支持分类、回归和多任务学习,并具备半监督预训练和即时数据增强等功能。该库易于使用且为生产环境就绪而设计。

机器学习平台
查看 AI GitHub 仓库 Top 250

XLM-RoBERTa 是一个多语言模型,预训练于 2.5TB 的 100 种语言数据上。它在序列分类和标记分类等任务中表现出色,是各种自然语言处理应用的宝贵工具。

AI 模型与大语言模型
查看工具

多语言模型,预训练于 2.5TB 的 100 种语言数据上。它在序列分类和标记分类等任务中表现出色,是各种自然语言处理应用的宝贵工具。XLM-RoBERTa 是一个多语言模型,预训练于 2.5TB 的 100 种语言数据上。它在序列分类和标记分类等任务中表现出色,是各种自然语言处理应用的宝贵工具。

精选AI 模型与大语言模型
查看 AI 模型 Top 5

Mistral-7B-v0.1 是一个具有 70 亿参数的预训练生成文本模型,旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B,使其成为自然语言处理任务的强大工具。

AI 模型与大语言模型
查看工具

具有 70 亿参数的预训练生成文本模型,旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B,使其成为自然语言处理任务的强大工具。Mistral-7B-v0.1 是一个具有 70 亿参数的预训练生成文本模型,旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B,使其成为自然语言处理任务的强大工具。

精选AI 模型与大语言模型
查看 AI 模型 Top 5

Longformer Base 4096 是一款为处理长文档而设计的 Transformer 模型。它基于 RoBERTa,并在最长 4096 个 token 的扩展序列上进行了预训练。该模型采用混合注意力机制,结合了滑动窗口和全局注意力,以实现高效的长文档理解和特定任务的表征学习。

AI 模型与大语言模型
查看工具

为处理长文档而设计的 Transformer 模型。它基于 RoBERTa,并在最长 4096 个 token 的扩展序列上进行了预训练。该模型采用混合注意力机制,结合了滑动窗口和全局注意力,以实现高效的长文档理解和特定任务的表征学习。Longformer Base 4096 是一款为处理长文档而设计的 Transformer 模型。它基于 RoBERTa,并在最长 4096 个 token 的扩展序列上进行了预训练。该模型采用混合注意力机制,结合了滑动窗口和全局注意力,以实现高效的长文档理解和特定任务的表征学习。

AI 模型与大语言模型
查看 AI 模型 Top 5

Qwen1.5-110B 是一种基于变换器的语言模型,提供显著的性能提升、多语言支持和稳定的 32K 上下文长度。非常适合高级 AI 应用。

AI 模型与大语言模型
查看工具

基于变换器的语言模型,提供显著的性能提升、多语言支持和稳定的 32K 上下文长度。非常适合高级 AI 应用。Qwen1.5-110B 是一种基于变换器的语言模型,提供显著的性能提升、多语言支持和稳定的 32K 上下文长度。非常适合高级 AI 应用。

AI 模型与大语言模型
查看 AI 模型 Top 5
1/8