跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

Salesforce CTRL 语言模型

CTRL 是一个拥有 16 亿参数的条件 Transformer 语言模型,用于可控文本生成。它基于控制码进行条件设置,以指定领域、实体和特定任务的行为,从而实现对生成内容的更明确控制。适用于寻求细致文本生成的研发人员。

访问URL
分享
Salesforce CTRL 语言模型 截图
Salesforce CTRL 语言模型 截图

CTRL,即条件 Transformer 语言模型,是 Salesforce 开发的一款强大的 AI 模型,专为可控文本生成而设计。它拥有 16 亿参数,利用 Transformer 架构生成连贯且与上下文相关的文本。与标准语言模型不同,CTRL 的关键创新在于其能够根据特定的控制码来条件化其输出。

阅读更多

这些控制码可以指定所需生成的各种方面,包括领域(例如,新闻、维基百科、评论)、子领域、实体、实体之间的关系、日期以及特定任务的行为。这种精细的控制是通过从与原始文本共同出现的自然结构中派生控制码来实现的,从而在提供对生成过程更明确指导的同时,保留了无监督学习的优势。

该模型对于需要针对特定应用微调文本生成的研发人员特别有用。它支持从训练好的模型生成文本,并提供不同序列长度(256 和 512)的检查点。此外,它还提供了一个源属性功能,该功能计算给定提示在每个领域控制码下的困惑度,有助于理解模型在特定领域的理解能力。

CTRL 已集成到 Hugging Face Transformers 库中,使其更易于广泛使用。该项目还提供了将 TensorFlow 模型转换为 Hugging Face 兼容的 PyTorch 格式的工具,便于集成。该模型的开发强调负责任的 AI 实践,并考虑了潜在的滥用以及通过 GitHub 问题和拉取请求进行的社区参与。

主要功能包括根据提示和控制码生成文本、为文本提供源属性以及在 PyTorch 中提供实验性推理支持。该模型适用于需要细致和受控文本输出的任务,例如创意写作、内容生成以及语言模型行为的研究。该项目对开源开发和社区参与的承诺通过其公开的 GitHub 存储库和详细文档得到了体现。

  • 类别AI 模型与大语言模型
  • 定价模式开源
  • 部署云端
  • 平台网页版

  • 基于控制码的条件文本生成

  • 16 亿参数

  • Transformer 架构

  • 支持领域、实体和特定任务的条件设置

  • 用于领域困惑度的源属性功能

  • 提供 TensorFlow 和 PyTorch 格式

  • 与 Hugging Face Transformers 库集成

  • 支持不同序列长度(256、512)的模型检查点

  • 用于在自定义数据集上进行微调的代码

  • PyTorch 上的实验性推理

  • 提供低内存占用分支(fp16 量化)

  1. 访问模型:克隆 GitHub 存储库或使用 Hugging Face Transformers 库。

  2. 设置环境:安装 TensorFlow 1.14 和 fastBPE,或使用 PyTorch 进行 PyTorch 推理。

  3. 修补 TensorFlow(如果使用 TF):将提供的 estimator.patch 应用于 TensorFlow estimator。

  4. 下载模型文件:从提供的 Google Cloud Storage 链接获取模型检查点。

  5. 运行生成脚本:使用所需的提示和控制码执行 generation.py。

  6. 运行源属性分析:使用 source_attribution.py 分析跨领域的提示困惑度。

  7. 通过 API 集成:利用 Hugging Face Transformers 无缝集成到应用程序中。

  • 可控文本生成
  • 内容创作
  • AI 研究
  • 源属性分析
  • 创意写作辅助
  • 领域特定文本生成

Salesforce 旗下产品

Salesforce CTRL 语言模型 评价

加载中...

与 Salesforce CTRL 语言模型 类似的热门AI工具

GODEL 是一个大规模预训练的基于 Transformer 的目标导向对话生成模型。它在基于外部文本的响应生成方面表现出色,能够高效地针对各种对话任务进行微调。该存储库提供了用于研究和开发的源代码、数据集和预训练模型。

AI 模型与大语言模型
查看工具

大规模预训练的基于 Transformer 的目标导向对话生成模型。它在基于外部文本的响应生成方面表现出色,能够高效地针对各种对话任务进行微调。该存储库提供了用于研究和开发的源代码、数据集和预训练模型。GODEL 是一个大规模预训练的基于 Transformer 的目标导向对话生成模型。它在基于外部文本的响应生成方面表现出色,能够高效地针对各种对话任务进行微调。该存储库提供了用于研究和开发的源代码、数据集和预训练模型。

AI 模型与大语言模型
查看 大语言模型 Top 50

ProphetNet

AI GitHub 仓库

ProphetNet 是 MSRA NLC 团队的一项研究项目,专注于自然语言生成。它提供了预训练模型的官方实现,包括面向未来信息、联合生成器-排序器学习以及基于扩散的文本生成模型。该项目托管在 GitHub 上。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

MSRA NLC 团队的一项研究项目,专注于自然语言生成。它提供了预训练模型的官方实现,包括面向未来信息、联合生成器-排序器学习以及基于扩散的文本生成模型。该项目托管在 GitHub 上。ProphetNet 是 MSRA NLC 团队的一项研究项目,专注于自然语言生成。它提供了预训练模型的官方实现,包括面向未来信息、联合生成器-排序器学习以及基于扩散的文本生成模型。该项目托管在 GitHub 上。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

GPT-2

AI 模型

GPT-2 是一个预训练的变换器模型,旨在生成英语文本。它利用因果语言建模目标,能够根据提示生成连贯的文本,使其在各种自然语言处理任务中非常有用。

AI 模型与大语言模型
查看工具

AI 模型

预训练的变换器模型,旨在生成英语文本。它利用因果语言建模目标,能够根据提示生成连贯的文本,使其在各种自然语言处理任务中非常有用。GPT-2 是一个预训练的变换器模型,旨在生成英语文本。它利用因果语言建模目标,能够根据提示生成连贯的文本,使其在各种自然语言处理任务中非常有用。

精选AI 模型与大语言模型
查看 AI 模型 Top 5

Mistral-7B-Instruct-v0.3 是一个经过微调的大型语言模型,旨在执行指令性任务。它支持函数调用和扩展词汇,使其在各种应用中具有多功能性。

AI 模型与大语言模型
查看工具

经过微调的大型语言模型,旨在执行指令性任务。它支持函数调用和扩展词汇,使其在各种应用中具有多功能性。Mistral-7B-Instruct-v0.3 是一个经过微调的大型语言模型,旨在执行指令性任务。它支持函数调用和扩展词汇,使其在各种应用中具有多功能性。

AI 模型与大语言模型
查看 大语言模型 Top 50

DeepSeek V4 Flash 是一个为高级文本生成任务设计的 AI 模型集合。它利用开源和开放科学原则来实现人工智能的民主化,提供一系列具有不同参数的模型,以满足多样化的应用需求。

AI 模型与大语言模型
查看工具

为高级文本生成任务设计的 AI 模型集合。它利用开源和开放科学原则来实现人工智能的民主化,提供一系列具有不同参数的模型,以满足多样化的应用需求。DeepSeek V4 Flash 是一个为高级文本生成任务设计的 AI 模型集合。它利用开源和开放科学原则来实现人工智能的民主化,提供一系列具有不同参数的模型,以满足多样化的应用需求。

AI 模型与大语言模型
查看 AI 模型 Top 5

Mistral-7B-v0.1 是一个具有 70 亿参数的预训练生成文本模型,旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B,使其成为自然语言处理任务的强大工具。

AI 模型与大语言模型
查看工具

具有 70 亿参数的预训练生成文本模型,旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B,使其成为自然语言处理任务的强大工具。Mistral-7B-v0.1 是一个具有 70 亿参数的预训练生成文本模型,旨在通过开源推动人工智能的发展。它在各种基准测试中超越了 Llama 2 13B,使其成为自然语言处理任务的强大工具。

精选AI 模型与大语言模型
查看 AI 模型 Top 5

DeepAI文本生成器是一个多功能的内容创作工具,利用基于变换器的大型语言模型生成文本。它可以完成句子,预测上下文相关的内容,并将输入转换为连贯的文本,充当句子、单词和消息生成器。

AI写作助手
查看工具

多功能的内容创作工具,利用基于变换器的大型语言模型生成文本。它可以完成句子,预测上下文相关的内容,并将输入转换为连贯的文本,充当句子、单词和消息生成器。DeepAI文本生成器是一个多功能的内容创作工具,利用基于变换器的大型语言模型生成文本。它可以完成句子,预测上下文相关的内容,并将输入转换为连贯的文本,充当句子、单词和消息生成器。

AI写作助手
查看 AI 应用 Top 250

RETRO(检索增强 Transformer)是一个将检索能力增强到 Transformer 架构中的 AI 模型。它能够访问包含网页、书籍、新闻和代码等海量文本的数据库,以提高语言生成的准确性和事实一致性。这种方法比标准 Transformer 提供了显著的性能提升。

AI 模型与大语言模型
查看工具

RETRO(检索增强 Transformer)是一个将检索能力增强到 Transformer 架构中的 AI 模型。它能够访问包含网页、书籍、新闻和代码等海量文本的数据库,以提高语言生成的准确性和事实一致性。这种方法比标准 Transformer 提供了显著的性能提升。

AI 模型与大语言模型
查看 AI 模型 Top 5
1/8