跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

Make-An-Audio

Make-An-Audio 是一个文本到音频生成系统,采用提示增强的扩散模型。它通过伪提示增强和频谱图自编码器来解决数据稀缺和音频复杂性的问题。该系统取得了最先进的成果,并提供了从各种输入生成高清、高保真音频的可控性。

查看模型
分享
查看模型
分享

Make-An-Audio 代表了文本到音频生成领域的重大进步,它利用提示增强的扩散模型来克服诸如高质量数据集有限以及长音频序列建模复杂性等挑战。该系统引入了一种新颖的伪提示增强技术,采用了“蒸馏-再编程”方法。这种方法通过整合弱监督数据(包括无语言音频)来有效缓解数据稀缺问题。

阅读更多

此外,Make-An-Audio 使用频谱图自编码器来预测自监督音频表示,而不是原始波形。这种架构选择,结合强大的对比语言-音频预训练(CLAP)表示,使模型能够在客观和主观评估中都达到最先进的性能。该系统通过无分类器引导展示了卓越的可控性,允许用户微调生成的音频输出。

除了基本的文本到音频之外,Make-An-Audio 还展示了 X 到音频任务的强大泛化能力,体现了“不落下任何模态”的原则。这使得能够根据用户定义的模态输入生成高清、高保真音频。该系统支持个性化文本到音频生成,能够将独特对象注入新场景并跨不同风格进行转换。例如,可以从初始的“雷声”声音生成“婴儿哭声”,从而产生逼真且忠实的音频。它还支持音频修复和图像到音频生成,扩展了其创意潜力。

  • 类别AI 模型与大语言模型
  • 定价模式开源
  • 部署云端
  • 平台网页版

  • 用于文本到音频生成的提示增强扩散模型

  • 使用蒸馏-再编程方法的伪提示增强

  • 用于音频表示预测的频谱图自编码器

  • 对比语言-音频预训练(CLAP)表示

  • 用于可控性的无分类器引导

  • X 到音频任务的泛化(例如,图像到音频、视频到音频)

  • 具有对象注入和风格转换的个性化文本到音频生成

  • 音频修复功能

  • 生成高清、高保真音频

  • 解决音频生成中的数据稀缺问题

  1. 访问模型:获取 Make-An-Audio 模型的访问权限。

  2. 通过 API 集成:通过 API 连接到模型以进行程序化使用。

  3. 提供文本提示:输入所需的音频生成文本描述。

  4. 指定模态输入(可选):对于 X 到音频任务,提供相关的图像或视频输入。

  5. 配置引导:利用无分类器引导来微调音频特性。

  6. 生成音频:启动音频生成过程。

  7. 优化输出:调整参数以进行个性化音频或修复任务。

  • 文本到语音合成
  • 音效生成
  • 音频修复
  • 图像到音频
  • 视频到音频
  • 个性化音频内容
  • 音乐生成
  • AI 研究

Make-An-Audio 评价

加载中...

与 Make-An-Audio 类似的热门AI工具

SoundStorm

AI 模型

SoundStorm 是一款用于高效非自回归音频生成的 AI 模型。它能以比以往方法快两个数量级的速度生成高质量音频,同时保持语音和声学条件的一致性。它能够合成自然的对话片段,并可控制语音内容、说话人声音和说话人轮次。

AI 模型与大语言模型
查看工具

AI 模型

用于高效非自回归音频生成的 AI 模型。它能以比以往方法快两个数量级的速度生成高质量音频,同时保持语音和声学条件的一致性。它能够合成自然的对话片段,并可控制语音内容、说话人声音和说话人轮次。SoundStorm 是一款用于高效非自回归音频生成的 AI 模型。它能以比以往方法快两个数量级的速度生成高质量音频,同时保持语音和声学条件的一致性。它能够合成自然的对话片段,并可控制语音内容、说话人声音和说话人轮次。

AI 模型与大语言模型
查看 AI 模型 Top 5

AudioGen

AI 模型

AudioGen 是一个自回归生成式 AI 模型,可根据描述性文本标题创建音频样本。它解决了音频生成中的挑战,例如分离声源、处理现实世界噪声以及文本标注稀缺的问题。该模型在学习到的离散音频表示上运行,以实现高保真输出。

AI 模型与大语言模型
查看工具

AI 模型

自回归生成式 AI 模型,可根据描述性文本标题创建音频样本。它解决了音频生成中的挑战,例如分离声源、处理现实世界噪声以及文本标注稀缺的问题。该模型在学习到的离散音频表示上运行,以实现高保真输出。AudioGen 是一个自回归生成式 AI 模型,可根据描述性文本标题创建音频样本。它解决了音频生成中的挑战,例如分离声源、处理现实世界噪声以及文本标注稀缺的问题。该模型在学习到的离散音频表示上运行,以实现高保真输出。

AI 模型与大语言模型
查看 AI 模型 Top 5

AudioLDM

AI 模型

AudioLDM 是一个利用潜在扩散模型进行文本到音频生成的框架。它将各种模态转换为统一的“音频语言”(LOA),用于生成语音、音乐和音效。这种方法支持上下文学习,并利用自监督预训练模型进行多功能音频创作。

AI 模型与大语言模型
查看工具

AI 模型

利用潜在扩散模型进行文本到音频生成的框架。它将各种模态转换为统一的“音频语言”(LOA),用于生成语音、音乐和音效。这种方法支持上下文学习,并利用自监督预训练模型进行多功能音频创作。AudioLDM 是一个利用潜在扩散模型进行文本到音频生成的框架。它将各种模态转换为统一的“音频语言”(LOA),用于生成语音、音乐和音效。这种方法支持上下文学习,并利用自监督预训练模型进行多功能音频创作。

AI 模型与大语言模型
查看 AI 模型 Top 5

Voicebox

AI GitHub 仓库

Voicebox 是一个开源的 AI 语音工作室,允许用户克隆、听写和创建语音项目。它提供了一个语音合成和处理的平台,非常适合开发人员和音频工程师。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

开源的 AI 语音工作室,允许用户克隆、听写和创建语音项目。它提供了一个语音合成和处理的平台,非常适合开发人员和音频工程师。Voicebox 是一个开源的 AI 语音工作室,允许用户克隆、听写和创建语音项目。它提供了一个语音合成和处理的平台,非常适合开发人员和音频工程师。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

探索由 DiffWave 提供支持的音频合成演示,DiffWave 是一款多功能扩散模型。此资源展示了神经声码、类别条件生成、无条件波形创建和语音去噪能力。它提供了音频样本,并深入介绍了模型在各种数据集和条件下的性能,突出了其灵活性。

AI 模型与大语言模型
查看工具

探索由 DiffWave 提供支持的音频合成演示,DiffWave 是一款多功能扩散模型。此资源展示了神经声码、类别条件生成、无条件波形创建和语音去噪能力。它提供了音频样本,并深入介绍了模型在各种数据集和条件下的性能,突出了其灵活性。

AI 模型与大语言模型
查看 AI 模型 Top 5

AudioLM

AI 模型

AudioLM 是一个能够生成高质量、具有长期一致性的音频的 AI 模型。它将音频生成视为一项语言建模任务,将音频映射到离散的 token。该框架在生成自然连贯的语音和音乐续写方面表现出色,即使是针对未曾见过的说话人或风格。

AI 模型与大语言模型
查看工具

AI 模型

能够生成高质量、具有长期一致性的音频的 AI 模型。它将音频生成视为一项语言建模任务,将音频映射到离散的 token。该框架在生成自然连贯的语音和音乐续写方面表现出色,即使是针对未曾见过的说话人或风格。AudioLM 是一个能够生成高质量、具有长期一致性的音频的 AI 模型。它将音频生成视为一项语言建模任务,将音频映射到离散的 token。该框架在生成自然连贯的语音和音乐续写方面表现出色,即使是针对未曾见过的说话人或风格。

AI 模型与大语言模型
查看 AI 模型 Top 5

HiFi-GAN 语音合成

AI GitHub 仓库

HiFi-GAN 是一种高效、高保真的生成对抗网络,用于语音合成。它通过建模音频中的周期性模式来提升样本质量,以极快的速度实现接近人声的质量。该模型支持单说话人、未见过的说话人以及端到端合成,并提供适用于 CPU 的轻量级版本。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

高效、高保真的生成对抗网络,用于语音合成。它通过建模音频中的周期性模式来提升样本质量,以极快的速度实现接近人声的质量。该模型支持单说话人、未见过的说话人以及端到端合成,并提供适用于 CPU 的轻量级版本。HiFi-GAN 是一种高效、高保真的生成对抗网络,用于语音合成。它通过建模音频中的周期性模式来提升样本质量,以极快的速度实现接近人声的质量。该模型支持单说话人、未见过的说话人以及端到端合成,并提供适用于 CPU 的轻量级版本。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

ESPnet

AI GitHub 仓库

ESPnet 是一个用于端到端语音处理的开源工具包。它提供了用于自动语音识别 (ASR)、文本到语音合成 (TTS) 和语音增强等任务的全面脚本和工具。用户可以使用其灵活的框架轻松运行推理、微调现有模型或实现自定义解决方案。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

用于端到端语音处理的开源工具包。它提供了用于自动语音识别 (ASR)、文本到语音合成 (TTS) 和语音增强等任务的全面脚本和工具。用户可以使用其灵活的框架轻松运行推理、微调现有模型或实现自定义解决方案。ESPnet 是一个用于端到端语音处理的开源工具包。它提供了用于自动语音识别 (ASR)、文本到语音合成 (TTS) 和语音增强等任务的全面脚本和工具。用户可以使用其灵活的框架轻松运行推理、微调现有模型或实现自定义解决方案。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250
1/8