跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

SoundStorm

SoundStorm 是一款用于高效非自回归音频生成的 AI 模型。它能以比以往方法快两个数量级的速度生成高质量音频,同时保持语音和声学条件的一致性。它能够合成自然的对话片段,并可控制语音内容、说话人声音和说话人轮次。

查看模型
分享
查看模型
分享

SoundStorm 是一款先进的 AI 模型,专为高效的非自回归音频生成而设计。它接收来自 AudioLM 的语义令牌作为输入,并利用双向注意力以及基于置信度的并行解码来生成神经音频编解码器的令牌。这种方法显著加速了音频制作,其速度比 AudioLM 的自回归生成快两个数量级。

阅读更多

与前代模型相比,该模型在生成同等质量的音频方面表现出色,并在语音和声学条件方面保持了更高的稳定性。一项关键能力是它能够在 TPU-v4 上仅用 0.5 秒生成 30 秒的音频。SoundStorm 在处理更长的音频序列时表现出可扩展性,能够合成高质量、自然的对话片段。这是通过对带有说话人轮次标注的文本以及所需说话人的短语音提示进行条件化来实现的。

当与 SPEAR-TTS 等文本到语义建模阶段集成时,SoundStorm 可以合成听起来自然的对话。用户可以通过文本精确控制语音内容,通过短提示控制说话人的声音,并通过说话人轮次标注控制对话流程。例如,在单个 TPU-v4 上合成 30 秒的对话片段仅需 2 秒,即使对于训练期间未见过的文本和说话人也是如此。

SoundStorm 还提供了无提示和有提示音频生成的 উভয়能力。在无提示场景下,它会采样不同的说话人;在有提示场景下,它能高保真地保持说话人的声音。这使其成为各种音频合成任务的强大工具。与 AudioLM 和贪婪解码等基线方法相比,SoundStorm 在声学一致性和语音提示保留方面有所改进,同时音频质量也更高。

该模型的高效生成流程使音频生成研究更易于访问。虽然模仿声音的能力引发了潜在滥用的担忧,例如冒充,但目前正在开发相应的安全措施。SoundStorm 生成的音频已被证明可以被专用分类器检测到,从而缓解了一些风险。该研究旨在负责任地推进音频生成技术。

  • 类别AI 模型与大语言模型
  • 部署云端
  • 平台网页版

  • 高效的非自回归音频生成

  • 生成音频的速度比 AudioLM 快两个数量级

  • 保持语音和声学条件的高度一致性

  • 合成具有说话人控制的自然对话片段

  • 接受 AudioLM 的语义令牌作为输入

  • 利用双向注意力和基于置信度的并行解码

  • 可扩展至更长的音频序列

  • 支持带有内容、声音和说话人轮次控制的对话合成

  • 可以从文本到语义模型生成音频

  • 在有提示生成中表现出高声学一致性和语音保留能力

  • 与贪婪解码基线相比,音频质量更高

  1. 访问模型:获取 SoundStorm 模型及其相关组件的访问权限。

  2. 设置环境:配置运行模型所需的软件和硬件环境。

  3. 输入语义令牌:将 AudioLM 生成的语义令牌提供给 SoundStorm。

  4. 通过 API 集成:利用模型的 API 实现与音频生成管道的无缝集成。

  5. 提供条件信息:提供文本、说话人轮次标注和语音提示以进行受控合成。

  6. 生成音频:执行生成过程以产生神经音频编解码器表示。

  7. 解码音频:使用神经音频编解码器将生成的表示转换为可听声音。

  • 对话合成
  • 声音克隆
  • 快速音频生成
  • 语音合成
  • 音频内容创作
  • 辅助工具
  • 加速研究

与 SoundStorm 类似的热门AI工具

AudioLM

AI 模型

AudioLM 是一个能够生成高质量、具有长期一致性的音频的 AI 模型。它将音频生成视为一项语言建模任务,将音频映射到离散的 token。该框架在生成自然连贯的语音和音乐续写方面表现出色,即使是针对未曾见过的说话人或风格。

AI 模型与大语言模型
查看工具

AI 模型

能够生成高质量、具有长期一致性的音频的 AI 模型。它将音频生成视为一项语言建模任务,将音频映射到离散的 token。该框架在生成自然连贯的语音和音乐续写方面表现出色,即使是针对未曾见过的说话人或风格。AudioLM 是一个能够生成高质量、具有长期一致性的音频的 AI 模型。它将音频生成视为一项语言建模任务,将音频映射到离散的 token。该框架在生成自然连贯的语音和音乐续写方面表现出色,即使是针对未曾见过的说话人或风格。

AI 模型与大语言模型
查看 AI 模型 Top 5

HiFi-GAN 语音合成

AI GitHub 仓库

HiFi-GAN 是一种高效、高保真的生成对抗网络,用于语音合成。它通过建模音频中的周期性模式来提升样本质量,以极快的速度实现接近人声的质量。该模型支持单说话人、未见过的说话人以及端到端合成,并提供适用于 CPU 的轻量级版本。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

高效、高保真的生成对抗网络,用于语音合成。它通过建模音频中的周期性模式来提升样本质量,以极快的速度实现接近人声的质量。该模型支持单说话人、未见过的说话人以及端到端合成,并提供适用于 CPU 的轻量级版本。HiFi-GAN 是一种高效、高保真的生成对抗网络,用于语音合成。它通过建模音频中的周期性模式来提升样本质量,以极快的速度实现接近人声的质量。该模型支持单说话人、未见过的说话人以及端到端合成,并提供适用于 CPU 的轻量级版本。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

FastSpeech 2

AI 模型

FastSpeech 2 是一个端到端的文本到语音模型,可提高语音质量和训练速度。它直接整合了音高和能量等语音变化信息,通过消除教师蒸馏并实现更快、更高质量的语音合成,从而改进了先前非自回归模型。

AI 模型与大语言模型
查看工具

AI 模型

端到端的文本到语音模型,可提高语音质量和训练速度。它直接整合了音高和能量等语音变化信息,通过消除教师蒸馏并实现更快、更高质量的语音合成,从而改进了先前非自回归模型。FastSpeech 2 是一个端到端的文本到语音模型,可提高语音质量和训练速度。它直接整合了音高和能量等语音变化信息,通过消除教师蒸馏并实现更快、更高质量的语音合成,从而改进了先前非自回归模型。

AI 模型与大语言模型
查看 AI 模型 Top 5

AudioGen

AI 模型

AudioGen 是一个自回归生成式 AI 模型,可根据描述性文本标题创建音频样本。它解决了音频生成中的挑战,例如分离声源、处理现实世界噪声以及文本标注稀缺的问题。该模型在学习到的离散音频表示上运行,以实现高保真输出。

AI 模型与大语言模型
查看工具

AI 模型

自回归生成式 AI 模型,可根据描述性文本标题创建音频样本。它解决了音频生成中的挑战,例如分离声源、处理现实世界噪声以及文本标注稀缺的问题。该模型在学习到的离散音频表示上运行,以实现高保真输出。AudioGen 是一个自回归生成式 AI 模型,可根据描述性文本标题创建音频样本。它解决了音频生成中的挑战,例如分离声源、处理现实世界噪声以及文本标注稀缺的问题。该模型在学习到的离散音频表示上运行,以实现高保真输出。

AI 模型与大语言模型
查看 AI 模型 Top 5

Make-An-Audio

AI 模型

Make-An-Audio 是一个文本到音频生成系统,采用提示增强的扩散模型。它通过伪提示增强和频谱图自编码器来解决数据稀缺和音频复杂性的问题。该系统取得了最先进的成果,并提供了从各种输入生成高清、高保真音频的可控性。

AI 模型与大语言模型
查看工具

AI 模型

文本到音频生成系统,采用提示增强的扩散模型。它通过伪提示增强和频谱图自编码器来解决数据稀缺和音频复杂性的问题。该系统取得了最先进的成果,并提供了从各种输入生成高清、高保真音频的可控性。Make-An-Audio 是一个文本到音频生成系统,采用提示增强的扩散模型。它通过伪提示增强和频谱图自编码器来解决数据稀缺和音频复杂性的问题。该系统取得了最先进的成果,并提供了从各种输入生成高清、高保真音频的可控性。

AI 模型与大语言模型
查看 AI 模型 Top 5

探索由 DiffWave 提供支持的音频合成演示,DiffWave 是一款多功能扩散模型。此资源展示了神经声码、类别条件生成、无条件波形创建和语音去噪能力。它提供了音频样本,并深入介绍了模型在各种数据集和条件下的性能,突出了其灵活性。

AI 模型与大语言模型
查看工具

探索由 DiffWave 提供支持的音频合成演示,DiffWave 是一款多功能扩散模型。此资源展示了神经声码、类别条件生成、无条件波形创建和语音去噪能力。它提供了音频样本,并深入介绍了模型在各种数据集和条件下的性能,突出了其灵活性。

AI 模型与大语言模型
查看 AI 模型 Top 5

Voicebox

AI GitHub 仓库

Voicebox 是一个开源的 AI 语音工作室,允许用户克隆、听写和创建语音项目。它提供了一个语音合成和处理的平台,非常适合开发人员和音频工程师。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

开源的 AI 语音工作室,允许用户克隆、听写和创建语音项目。它提供了一个语音合成和处理的平台,非常适合开发人员和音频工程师。Voicebox 是一个开源的 AI 语音工作室,允许用户克隆、听写和创建语音项目。它提供了一个语音合成和处理的平台,非常适合开发人员和音频工程师。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

芝麻 CSM 是一个对话式语音模型,能够从文本和音频输入生成音频代码。它利用 Llama 主干,旨在用于研究和教育目的,促进 AI 技术的负责任使用。

AI 模型与大语言模型
查看工具

对话式语音模型,能够从文本和音频输入生成音频代码。它利用 Llama 主干,旨在用于研究和教育目的,促进 AI 技术的负责任使用。芝麻 CSM 是一个对话式语音模型,能够从文本和音频输入生成音频代码。它利用 Llama 主干,旨在用于研究和教育目的,促进 AI 技术的负责任使用。

精选AI 模型与大语言模型
查看 AI 模型 Top 5
1/8