跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

Gopher

Gopher 是来自 Google DeepMind 的一个拥有 2800 亿参数的变换器语言模型,属于一个参数范围从 4400 万到 2800 亿的模型家族。该模型在 2021 年的研究发布中介绍,评估了阅读理解、事实核查和有毒语言识别等任务,在某些任务上因规模而获益,而在其他任务上则未能如愿,例如逻辑推理。

查看模型
分享
查看模型
分享

Gopher 是来自 Google DeepMind 的一个拥有 2800 亿参数的变换器语言模型,是该团队训练的模型家族中最大的,参数范围从 4400 万到 2800 亿。它于 2021 年 12 月推出,并伴随两篇论文发布:一篇关于语言模型的伦理和社会风险,另一篇提出了 RETRO,一种增强检索的训练架构。

阅读更多

DeepMind 训练了这一模型家族,以研究增加规模在何种情况下有助于语言模型的性能,何种情况下则没有。与之前的工作相比,Gopher 在大规模多任务语言理解(MMLU)基准测试中显著接近人类专家的表现,研究显示在阅读理解、事实核查和识别有毒语言等任务上,规模带来了性能提升。然而,规模并未在逻辑推理和常识任务上显著改善性能。

除了基准分数,DeepMind 还通过直接互动探索了 Gopher。当以对话格式提示时,该模型有时能够以令人惊讶的连贯性和正确的引用讨论细胞生物学等主题,尽管没有进行对话特定的微调。研究还记录了在不同模型规模中持续存在的失败模式:重复自身、反映刻板偏见以及以不当的自信陈述错误信息的倾向。

发布的伴随论文建立了语言模型的伦理和社会风险分类法,深入涵盖了六个主题领域和 21 种风险,旨在为评估和减轻这些问题提供基础。第二篇伴随论文介绍了 RETRO,该架构在生成过程中查询文本段落,降低了训练能耗,并使输出能够追溯到源段落,同时以更少的参数匹配更大标准变换器的性能。

Gopher 旨在为研究语言模型规模、评估和安全性的 AI 研究人员提供支持。它是通过 DeepMind 的博客文章和论文记录的研究发布,而不是具有公共 API 或可下载权重的产品,DeepMind 后来将 Gopher 的训练计算成本作为开发其更高效数据继任者 Chinchilla 的参考点。

  • 类别AI 模型与大语言模型
  • 部署云端
  • 平台网页版

  • 2800 亿参数的变换器语言模型,属于从 4400 万到 2800 亿参数的家族

  • 在大规模多任务语言理解(MMLU)基准测试中提升性能

  • 在阅读理解、事实核查和有毒语言识别等基准测试中进行评估

  • 能够在没有对话特定微调的情况下,持续进行连贯的、引用的技术主题对话

  • 记录了不同模型规模中的失败模式:重复、刻板偏见和自信地陈述错误信息

  • 与语言模型的伦理和社会风险分类法一起发布,涵盖六个主题中的 21 种风险

  • 与 RETRO 伴随发布,RETRO 是一种具有更低训练能耗的增强检索架构

  1. 阅读发布文章:首先阅读 DeepMind 的博客文章,介绍 Gopher 及其两篇伴随论文。

  2. 查看基准结果:检查 Gopher 在 MMLU、阅读理解和有毒语言任务上的得分,与家族中较小的模型进行比较。

  3. 阅读风险分类法:查看伴随论文,了解记录的失败模式及其伦理和社会风险。

  4. 与 RETRO 进行比较:阅读与 Gopher 一起发布的增强检索架构的相关内容。

  • 模型规模研究
  • 语言模型风险评估
  • 增强检索建模

Google DeepMind 旗下产品

Gopher 评价

加载中...

与 Gopher 类似的热门AI工具

Phi-2 是来自微软研究院的一个拥有 27 亿参数的语言模型。它展现了出色的推理和语言理解能力,在 130 亿参数以下的模型中取得了最先进的性能。在复杂的基准测试中,Phi-2 的表现与模型大小高出 25 倍的模型相当或更优,是研究和实验的理想选择。

AI 模型与大语言模型
查看工具

来自微软研究院的一个拥有 27 亿参数的语言模型。它展现了出色的推理和语言理解能力,在 130 亿参数以下的模型中取得了最先进的性能。在复杂的基准测试中,Phi-2 的表现与模型大小高出 25 倍的模型相当或更优,是研究和实验的理想选择。Phi-2 是来自微软研究院的一个拥有 27 亿参数的语言模型。它展现了出色的推理和语言理解能力,在 130 亿参数以下的模型中取得了最先进的性能。在复杂的基准测试中,Phi-2 的表现与模型大小高出 25 倍的模型相当或更优,是研究和实验的理想选择。

AI 模型与大语言模型
查看 AI 模型 Top 5

Llama-3.1-8B-Instruct 是由 Meta 开发的多语言大型语言模型,针对基于指令的任务进行了优化。它旨在商业和研究应用中提供自然语言理解和生成的高级能力。

AI 模型与大语言模型
查看工具

由 Meta 开发的多语言大型语言模型,针对基于指令的任务进行了优化。它旨在商业和研究应用中提供自然语言理解和生成的高级能力。Llama-3.1-8B-Instruct 是由 Meta 开发的多语言大型语言模型,针对基于指令的任务进行了优化。它旨在商业和研究应用中提供自然语言理解和生成的高级能力。

精选AI 模型与大语言模型
查看 AI 模型 Top 5

Gemma 3-27B IT 是谷歌推出的最先进的多模态 AI 模型,能够处理文本和图像输入以生成文本输出。它支持超过 140 种语言,并设计用于在资源有限的环境中高效部署。

AI 模型与大语言模型
查看工具

谷歌推出的最先进的多模态 AI 模型,能够处理文本和图像输入以生成文本输出。它支持超过 140 种语言,并设计用于在资源有限的环境中高效部署。Gemma 3-27B IT 是谷歌推出的最先进的多模态 AI 模型,能够处理文本和图像输入以生成文本输出。它支持超过 140 种语言,并设计用于在资源有限的环境中高效部署。

AI 模型与大语言模型
查看 AI 模型 Top 5

Phi-4-reasoning-plus 是由微软研究院开发的最先进的推理模型。它通过监督学习和强化学习对 Phi-4 进行了微调,旨在处理数学、科学和编码中的高级推理任务。

AI 模型与大语言模型
查看工具

由微软研究院开发的最先进的推理模型。它通过监督学习和强化学习对 Phi-4 进行了微调,旨在处理数学、科学和编码中的高级推理任务。Phi-4-reasoning-plus 是由微软研究院开发的最先进的推理模型。它通过监督学习和强化学习对 Phi-4 进行了微调,旨在处理数学、科学和编码中的高级推理任务。

AI 模型与大语言模型
查看 AI 模型 Top 5

Muse Glimmer

AI 模型

Muse Glimmer是一个拥有300亿参数的因果语言模型,旨在在消费硬件上执行自主代理任务。它集成了多步骤推理、可靠的工具使用和多模态理解,使得在不依赖云的情况下实现高效的本地部署。

AI 模型与大语言模型
查看工具

AI 模型

拥有300亿参数的因果语言模型,旨在在消费硬件上执行自主代理任务。它集成了多步骤推理、可靠的工具使用和多模态理解,使得在不依赖云的情况下实现高效的本地部署。Muse Glimmer是一个拥有300亿参数的因果语言模型,旨在在消费硬件上执行自主代理任务。它集成了多步骤推理、可靠的工具使用和多模态理解,使得在不依赖云的情况下实现高效的本地部署。

精选AI 模型与大语言模型
查看 AI 模型 Top 5

Chinchilla

AI 模型

Chinchilla 是来自 Google DeepMind 的一个 700 亿参数的语言模型,训练于 1.3 万亿个标记,旨在测试一个在更多数据上训练的小模型是否能超越一个更大的模型。它使用与 DeepMind 的 280 亿参数 Gopher 相同的训练计算,几乎在所有测试的基准上都超越了 Gopher 和其他大型模型。

AI 模型与大语言模型
查看工具

AI 模型

来自 Google DeepMind 的一个 700 亿参数的语言模型,训练于 1.3 万亿个标记,旨在测试一个在更多数据上训练的小模型是否能超越一个更大的模型。它使用与 DeepMind 的 280 亿参数 Gopher 相同的训练计算,几乎在所有测试的基准上都超越了 Gopher 和其他大型模型。Chinchilla 是来自 Google DeepMind 的一个 700 亿参数的语言模型,训练于 1.3 万亿个标记,旨在测试一个在更多数据上训练的小模型是否能超越一个更大的模型。它使用与 DeepMind 的 280 亿参数 Gopher 相同的训练计算,几乎在所有测试的基准上都超越了 Gopher 和其他大型模型。

AI 模型与大语言模型
查看 AI 模型 Top 5

Meta-Llama-3-8B-Instruct 是一个先进的大型语言模型,专为基于指令的任务而设计。它在对话应用中表现出色,并针对有用性和安全性进行了优化,适合商业和研究使用。

AI 模型与大语言模型
查看工具

先进的大型语言模型,专为基于指令的任务而设计。它在对话应用中表现出色,并针对有用性和安全性进行了优化,适合商业和研究使用。Meta-Llama-3-8B-Instruct 是一个先进的大型语言模型,专为基于指令的任务而设计。它在对话应用中表现出色,并针对有用性和安全性进行了优化,适合商业和研究使用。

精选AI 模型与大语言模型
查看 AI 模型 Top 5

DeepSeek-v3 提供即时 AI 解决方案,由先进的 MoE 架构和最先进的语言模型驱动。通过这款稳定、免费且无限制的模型体验尖端 AI 功能,该模型专为各种硬件部署的高效推理和多语言支持而设计。

AI 模型与大语言模型
查看工具

提供即时 AI 解决方案,由先进的 MoE 架构和最先进的语言模型驱动。通过这款稳定、免费且无限制的模型体验尖端 AI 功能,该模型专为各种硬件部署的高效推理和多语言支持而设计。DeepSeek-v3 提供即时 AI 解决方案,由先进的 MoE 架构和最先进的语言模型驱动。通过这款稳定、免费且无限制的模型体验尖端 AI 功能,该模型专为各种硬件部署的高效推理和多语言支持而设计。

AI 模型与大语言模型
查看 AI 应用 Top 250
1/8