描述
SoundStorm 是一款先进的 AI 模型,专为高效的非自回归音频生成而设计。它接收来自 AudioLM 的语义令牌作为输入,并利用双向注意力以及基于置信度的并行解码来生成神经音频编解码器的令牌。这种方法显著加速了音频制作,其速度比 AudioLM 的自回归生成快两个数量级。
阅读更多
与前代模型相比,该模型在生成同等质量的音频方面表现出色,并在语音和声学条件方面保持了更高的稳定性。一项关键能力是它能够在 TPU-v4 上仅用 0.5 秒生成 30 秒的音频。SoundStorm 在处理更长的音频序列时表现出可扩展性,能够合成高质量、自然的对话片段。这是通过对带有说话人轮次标注的文本以及所需说话人的短语音提示进行条件化来实现的。
当与 SPEAR-TTS 等文本到语义建模阶段集成时,SoundStorm 可以合成听起来自然的对话。用户可以通过文本精确控制语音内容,通过短提示控制说话人的声音,并通过说话人轮次标注控制对话流程。例如,在单个 TPU-v4 上合成 30 秒的对话片段仅需 2 秒,即使对于训练期间未见过的文本和说话人也是如此。
SoundStorm 还提供了无提示和有提示音频生成的 উভয়能力。在无提示场景下,它会采样不同的说话人;在有提示场景下,它能高保真地保持说话人的声音。这使其成为各种音频合成任务的强大工具。与 AudioLM 和贪婪解码等基线方法相比,SoundStorm 在声学一致性和语音提示保留方面有所改进,同时音频质量也更高。
该模型的高效生成流程使音频生成研究更易于访问。虽然模仿声音的能力引发了潜在滥用的担忧,例如冒充,但目前正在开发相应的安全措施。SoundStorm 生成的音频已被证明可以被专用分类器检测到,从而缓解了一些风险。该研究旨在负责任地推进音频生成技术。
- 类别AI 模型与大语言模型
- 部署云端
- 平台网页版
SoundStorm亮点
高效的非自回归音频生成
生成音频的速度比 AudioLM 快两个数量级
保持语音和声学条件的高度一致性
合成具有说话人控制的自然对话片段
接受 AudioLM 的语义令牌作为输入
利用双向注意力和基于置信度的并行解码
可扩展至更长的音频序列
支持带有内容、声音和说话人轮次控制的对话合成
可以从文本到语义模型生成音频
在有提示生成中表现出高声学一致性和语音保留能力
与贪婪解码基线相比,音频质量更高
SoundStorm入门
访问模型:获取 SoundStorm 模型及其相关组件的访问权限。
设置环境:配置运行模型所需的软件和硬件环境。
输入语义令牌:将 AudioLM 生成的语义令牌提供给 SoundStorm。
通过 API 集成:利用模型的 API 实现与音频生成管道的无缝集成。
提供条件信息:提供文本、说话人轮次标注和语音提示以进行受控合成。
生成音频:执行生成过程以产生神经音频编解码器表示。
解码音频:使用神经音频编解码器将生成的表示转换为可听声音。
SoundStorm的使用案例
- 对话合成
- 声音克隆
- 快速音频生成
- 语音合成
- 音频内容创作
- 辅助工具
- 加速研究




