跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

AliceAI-Foundation-80B-A3B-Base

AliceAI-Foundation-80B-A3B-Base 是一个具有混合架构和 MoE 层的基础语言模型,拥有 800 亿个参数。它在事实知识任务中表现出色,尤其是在俄语方面,并支持最长 262,144 个标记的上下文长度。

访问URL
分享
AliceAI-Foundation-80B-A3B-Base 截图
AliceAI-Foundation-80B-A3B-Base 截图

AliceAI-Foundation-80B-A3B-Base 是由 Yandex 开发的基础语言模型,托管在 Hugging Face 上。它采用混合架构,结合了专家混合(MoE)层,拥有总计 800 亿个参数,每个标记活跃 30 亿个参数。该模型支持最长 262,144 个标记的上下文长度,适合处理大量文本输入。

阅读更多

该模型从零开始训练,使用新组装的训练语料库,并精心选择架构和超参数。它在处理俄语的事实知识任务方面特别强大,在这一领域超越了更大的开源模型。该模型的性能通过 WikiWebFacts 和 HardMultiQA 等基准进行验证,这些基准专注于俄语上下文。

AliceAI-Foundation-80B-A3B-Base 是一个自回归语言模型,目前处于预训练阶段。它的隐藏状态大小为 2048,词汇表大小为 129,024,并由 48 层组成。该模型的架构包括 12 个 3 KDA 到 MoE 层的块,后面跟着 1 个门控注意力到 MoE 层。

该模型的能力通过各种基准得以展示,在数学、编程和推理任务中显示出竞争力的结果。它在俄语的事实知识任务中尤其有效,这在 WikiWebFacts 和 HardMultiQA 基准的表现中得到了证明。

AliceAI-Foundation-80B-A3B-Base 可通过 Transformers 库使用,参考版本为 5.16.1。它也可以使用 vLLM 部署,执行时需要 Docker 和 NVIDIA Container Toolkit。该模型开放以进行进一步的微调和特定任务的适应,支持在代码库中提供 LoRA 微调。

该模型主要用于研究、实验和进一步开发。它并不是针对最终用户产品和服务的现成解决方案。建议用户在将模型部署到生产环境之前进行自己的测试,并实施必要的微调和控制措施。

  • 类别AI 模型与大语言模型
  • 定价模式开源
  • 部署云端
  • 平台网页版

  • 800 亿个参数

  • 每个标记 30 亿个活跃参数

  • 具有 MoE 层的混合架构

  • 支持最长 262,144 个标记的上下文长度

  • 在俄语事实知识任务中表现出色

  • 从零开始预训练

  • 通过 Transformers 和 vLLM 可用

  • 支持 LoRA 微调

  1. 访问模型页面:访问 Hugging Face

  2. 身份验证:登录到您的帐户

  3. 配置:设置模型参数

  4. 发送提示:输入您的文本查询

  5. 微调:将模型适应于特定任务

  • 事实知识检索
  • 数学问题解决
  • 编程辅助
  • 语言理解
  • 研究与开发

Yandex 旗下产品

AliceAI-Foundation-80B-A3B-Base 评价

加载中...

与 AliceAI-Foundation-80B-A3B-Base 类似的热门AI工具

SmolLM3语言模型

大语言模型

SmolLM3是一个拥有30亿参数的语言模型,旨在推动小型模型的边界。它支持双模式推理、六种语言和长上下文处理,在30亿到40亿规模上提供强大的性能。

AI 模型与大语言模型

大语言模型 排名第 45 位

查看工具

大语言模型

拥有30亿参数的语言模型,旨在推动小型模型的边界。它支持双模式推理、六种语言和长上下文处理,在30亿到40亿规模上提供强大的性能。SmolLM3是一个拥有30亿参数的语言模型,旨在推动小型模型的边界。它支持双模式推理、六种语言和长上下文处理,在30亿到40亿规模上提供强大的性能。

AI 模型与大语言模型
大语言模型 排名第 45 位

Kimi-K2-Instruct 是一款先进的混合专家语言模型,专为高级人工智能任务而设计。它在推理、编码和工具使用方面表现出色,提供了32亿激活参数的强大性能。

AI 模型与大语言模型

大语言模型 排名第 44 位

查看工具

先进的混合专家语言模型,专为高级人工智能任务而设计。它在推理、编码和工具使用方面表现出色,提供了32亿激活参数的强大性能。Kimi-K2-Instruct 是一款先进的混合专家语言模型,专为高级人工智能任务而设计。它在推理、编码和工具使用方面表现出色,提供了32亿激活参数的强大性能。

AI 模型与大语言模型
大语言模型 排名第 44 位

Solar Open 2

大语言模型

Solar Open 2 是 Upstage 开发的大型语言模型,专为办公生产力和编码等代理性用例设计。它采用混合注意力专家混合架构,提供高效推理和多语言支持。

AI 模型与大语言模型

大语言模型 排名第 18 位

查看工具

大语言模型

Upstage 开发的大型语言模型,专为办公生产力和编码等代理性用例设计。它采用混合注意力专家混合架构,提供高效推理和多语言支持。Solar Open 2 是 Upstage 开发的大型语言模型,专为办公生产力和编码等代理性用例设计。它采用混合注意力专家混合架构,提供高效推理和多语言支持。

AI 模型与大语言模型
大语言模型 排名第 18 位

Qwen3-235B-A22B-Instruct-2507 是一个先进的人工智能模型,旨在改善指令遵循、逻辑推理和多语言能力。它在长上下文理解和工具使用方面表现出色,非常适合复杂的人工智能任务。

AI 模型与大语言模型
查看工具

先进的人工智能模型,旨在改善指令遵循、逻辑推理和多语言能力。它在长上下文理解和工具使用方面表现出色,非常适合复杂的人工智能任务。Qwen3-235B-A22B-Instruct-2507 是一个先进的人工智能模型,旨在改善指令遵循、逻辑推理和多语言能力。它在长上下文理解和工具使用方面表现出色,非常适合复杂的人工智能任务。

AI 模型与大语言模型
查看 大语言模型 Top 50

Kolibri 1

大语言模型

Kolibri 1 是由 Aleph Alpha 开发的多语言大型语言模型。它在多步骤推理、检索增强生成和编码任务方面表现出色,支持德语和英语。该模型旨在处理复杂任务,具有较大的上下文窗口,并在 Apache 2.0 许可下提供。

AI 模型与大语言模型

大语言模型 排名第 22 位

查看工具

大语言模型

由 Aleph Alpha 开发的多语言大型语言模型。它在多步骤推理、检索增强生成和编码任务方面表现出色,支持德语和英语。该模型旨在处理复杂任务,具有较大的上下文窗口,并在 Apache 2.0 许可下提供。Kolibri 1 是由 Aleph Alpha 开发的多语言大型语言模型。它在多步骤推理、检索增强生成和编码任务方面表现出色,支持德语和英语。该模型旨在处理复杂任务,具有较大的上下文窗口,并在 Apache 2.0 许可下提供。

AI 模型与大语言模型
大语言模型 排名第 22 位

Apertus 1.5

大语言模型

Apertus 1.5 是一系列多语言、多模态的语言模型,旨在支持广泛的语言和上下文。它提供开源访问和改进的推理能力,使其适用于多种人工智能应用。

AI 模型与大语言模型
查看工具

大语言模型

一系列多语言、多模态的语言模型,旨在支持广泛的语言和上下文。它提供开源访问和改进的推理能力,使其适用于多种人工智能应用。Apertus 1.5 是一系列多语言、多模态的语言模型,旨在支持广泛的语言和上下文。它提供开源访问和改进的推理能力,使其适用于多种人工智能应用。

AI 模型与大语言模型
查看 大语言模型 Top 50

Ling

AI GitHub 仓库

Ling 是来自蚂蚁集团 inclusionAI 的开源专家混合语言模型系列,已在 GitHub 上以 MIT 许可证发布。它提供多种尺寸,适用于一般聊天、编码和推理任务,旨在帮助希望自行运行或微调开放 LLM 的研究人员和开发者。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

来自蚂蚁集团 inclusionAI 的开源专家混合语言模型系列,已在 GitHub 上以 MIT 许可证发布。它提供多种尺寸,适用于一般聊天、编码和推理任务,旨在帮助希望自行运行或微调开放 LLM 的研究人员和开发者。Ling 是来自蚂蚁集团 inclusionAI 的开源专家混合语言模型系列,已在 GitHub 上以 MIT 许可证发布。它提供多种尺寸,适用于一般聊天、编码和推理任务,旨在帮助希望自行运行或微调开放 LLM 的研究人员和开发者。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

LiquidAI LFM2.5-2.6B

大语言模型

LiquidAI LFM2.5-2.6B 是一款为设备部署设计的混合模型,提供高效的推理和智能能力。它支持多种语言,并针对各种平台进行了优化,使其在多种应用中具有灵活性。

AI 模型与大语言模型

大语言模型 排名第 26 位

查看工具

大语言模型

为设备部署设计的混合模型,提供高效的推理和智能能力。它支持多种语言,并针对各种平台进行了优化,使其在多种应用中具有灵活性。LiquidAI LFM2.5-2.6B 是一款为设备部署设计的混合模型,提供高效的推理和智能能力。它支持多种语言,并针对各种平台进行了优化,使其在多种应用中具有灵活性。

AI 模型与大语言模型
大语言模型 排名第 26 位
1/8