DeBERTa - 微软研究院

SpanBERT

AI GitHub 仓库

专注于通过表示和预测文本片段来改进预训练的 AI 模型。它提供预训练的基础版和大型版（区分大小写）模型，与 HuggingFace BERT 格式兼容。该代码库提供了在各种 NLP 任务（包括问答和关系抽取）上使用和评估 SpanBERT 的代码。SpanBERT 是一种专注于通过表示和预测文本片段来改进预训练的 AI 模型。它提供预训练的基础版和大型版（区分大小写）模型，与 HuggingFace BERT 格式兼容。该代码库提供了在各种 NLP 任务（包括问答和关系抽取）上使用和评估 SpanBERT 的代码。

MPNet

AI GitHub 仓库

新颖的语言理解预训练方法，在 BERT 和 XLNet 的基础上进行了改进。它为各种预训练模型提供了统一的实现，并支持在 GLUE 和 SQuAD 等多样化的语言理解任务上进行预训练和微调的代码。MPNet 是一种新颖的语言理解预训练方法，在 BERT 和 XLNet 的基础上进行了改进。它为各种预训练模型提供了统一的实现，并支持在 GLUE 和 SQuAD 等多样化的语言理解任务上进行预训练和微调的代码。

人工智能模型，通过将冻结的视觉编码器与大型语言模型对齐，增强了视觉-语言理解能力。它可以生成详细的图像描述、根据草稿创建网站、创作受图像启发的故事情节，并解决视觉问题，展现了先进的多模态能力。MiniGPT-4 是一个人工智能模型，通过将冻结的视觉编码器与大型语言模型对齐，增强了视觉-语言理解能力。它可以生成详细的图像描述、根据草稿创建网站、创作受图像启发的故事情节，并解决视觉问题，展现了先进的多模态能力。

GODEL: 目标导向对话模型

大语言模型

大规模预训练的基于 Transformer 的目标导向对话生成模型。它在基于外部文本的响应生成方面表现出色，能够高效地针对各种对话任务进行微调。该存储库提供了用于研究和开发的源代码、数据集和预训练模型。GODEL 是一个大规模预训练的基于 Transformer 的目标导向对话生成模型。它在基于外部文本的响应生成方面表现出色，能够高效地针对各种对话任务进行微调。该存储库提供了用于研究和开发的源代码、数据集和预训练模型。

Phi-2 语言模型

AI 模型

来自微软研究院的一个拥有 27 亿参数的语言模型。它展现了出色的推理和语言理解能力，在 130 亿参数以下的模型中取得了最先进的性能。在复杂的基准测试中，Phi-2 的表现与模型大小高出 25 倍的模型相当或更优，是研究和实验的理想选择。Phi-2 是来自微软研究院的一个拥有 27 亿参数的语言模型。它展现了出色的推理和语言理解能力，在 130 亿参数以下的模型中取得了最先进的性能。在复杂的基准测试中，Phi-2 的表现与模型大小高出 25 倍的模型相当或更优，是研究和实验的理想选择。

google/bigbird-roberta-base

AI 模型

BigBird基础模型是一个Transformer模型，它通过块稀疏注意力机制扩展了BERT，能够处理更长的序列。该模型已针对英文文本进行掩码语言模型任务的预训练，可以高效处理长达4096个token的序列，并在长文档任务上取得了最先进的成果。

Mistral Large 3 - AI模型

AI 模型

先进的AI模型，专为企业设计，支持定制、微调和AI助手及代理的部署。它采用稀疏专家混合架构，具有410亿个活跃参数，在多模态和多语言应用中提供先进的能力。Mistral Large 3是一个先进的AI模型，专为企业设计，支持定制、微调和AI助手及代理的部署。它采用稀疏专家混合架构，具有410亿个活跃参数，在多模态和多语言应用中提供先进的能力。

Gopher

AI 模型

来自 Google DeepMind 的一个拥有 2800 亿参数的变换器语言模型，属于一个参数范围从 4400 万到 2800 亿的模型家族。该模型在 2021 年的研究发布中介绍，评估了阅读理解、事实核查和有毒语言识别等任务，在某些任务上因规模而获益，而在其他任务上则未能如愿，例如逻辑推理。Gopher 是来自 Google DeepMind 的一个拥有 2800 亿参数的变换器语言模型，属于一个参数范围从 4400 万到 2800 亿的模型家族。该模型在 2021 年的研究发布中介绍，评估了阅读理解、事实核查和有毒语言识别等任务，在某些任务上因规模而获益，而在其他任务上则未能如愿，例如逻辑推理。