BERT base uncased

google/bigbird-roberta-base

AI 模型

BigBird基础模型是一个Transformer模型，它通过块稀疏注意力机制扩展了BERT，能够处理更长的序列。该模型已针对英文文本进行掩码语言模型任务的预训练，可以高效处理长达4096个token的序列，并在长文档任务上取得了最先进的成果。

BERT 多语言模型

大语言模型

#46

提供两个多语言模型：Cased 和 Uncased，支持超过 100 种语言。Cased 模型推荐用于非拉丁字母语言和通用场景，而 Uncased 模型是旧版本。这些模型专为自然语言理解任务设计，可针对特定应用进行微调。BERT 提供两个多语言模型：Cased 和 Uncased，支持超过 100 种语言。Cased 模型推荐用于非拉丁字母语言和通用场景，而 Uncased 模型是旧版本。这些模型专为自然语言理解任务设计，可针对特定应用进行微调。

XLM-RoBERTa Base

AI 模型

多语言模型，预训练于 2.5TB 的 100 种语言数据上。它在序列分类和标记分类等任务中表现出色，是各种自然语言处理应用的宝贵工具。XLM-RoBERTa 是一个多语言模型，预训练于 2.5TB 的 100 种语言数据上。它在序列分类和标记分类等任务中表现出色，是各种自然语言处理应用的宝贵工具。

SpanBERT

AI GitHub 仓库

专注于通过表示和预测文本片段来改进预训练的 AI 模型。它提供预训练的基础版和大型版（区分大小写）模型，与 HuggingFace BERT 格式兼容。该代码库提供了在各种 NLP 任务（包括问答和关系抽取）上使用和评估 SpanBERT 的代码。SpanBERT 是一种专注于通过表示和预测文本片段来改进预训练的 AI 模型。它提供预训练的基础版和大型版（区分大小写）模型，与 HuggingFace BERT 格式兼容。该代码库提供了在各种 NLP 任务（包括问答和关系抽取）上使用和评估 SpanBERT 的代码。

Mistral-7B-v0.1

AI 模型

具有 70 亿参数的预训练生成文本模型，旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B，使其成为自然语言处理任务的强大工具。Mistral-7B-v0.1 是一个具有 70 亿参数的预训练生成文本模型，旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B，使其成为自然语言处理任务的强大工具。

Longformer Base 4096

AI 模型

为处理长文档而设计的 Transformer 模型。它基于 RoBERTa，并在最长 4096 个 token 的扩展序列上进行了预训练。该模型采用混合注意力机制，结合了滑动窗口和全局注意力，以实现高效的长文档理解和特定任务的表征学习。Longformer Base 4096 是一款为处理长文档而设计的 Transformer 模型。它基于 RoBERTa，并在最长 4096 个 token 的扩展序列上进行了预训练。该模型采用混合注意力机制，结合了滑动窗口和全局注意力，以实现高效的长文档理解和特定任务的表征学习。

all-mpnet-base-v2

AI 模型

句子转换模型，将句子和段落编码为 768 维向量空间，便于进行聚类和语义搜索等任务。它旨在高效地进行文本嵌入和检索应用。all-mpnet-base-v2 是一个句子转换模型，将句子和段落编码为 768 维向量空间，便于进行聚类和语义搜索等任务。它旨在高效地进行文本嵌入和检索应用。

BEiT 图像 Transformer

AI 模型

自监督视觉表示模型，它使用掩码图像建模来预训练视觉 Transformer。它将图像分词为视觉标记，并恢复被掩码的图像块，在图像分类和语义分割等下游任务上取得了有竞争力的结果。BEiT 是一个自监督视觉表示模型，它使用掩码图像建模来预训练视觉 Transformer。它将图像分词为视觉标记，并恢复被掩码的图像块，在图像分类和语义分割等下游任务上取得了有竞争力的结果。