ACE-Step— ACE Studio联合阶跃星辰开源的音乐生成基础模型

ACE-Step 是什么

ace-step 是由 ace studio 和 stepfun 联合推出的开源音乐生成基础模型，采用创新的架构设计，实现高效、连贯且可控的音乐创作。通过结合扩散模型、深度压缩自编码器（dcae）和轻量级线性变换器，ace-step 能够在短时间内生成高质量的音乐作品，其速度是传统 llm 模型的 15 倍。ace-step 支持多种音乐风格、语言和可控性功能，为音乐创作提供强大的工具。作为基础模型，ace-step 适用于快速生成音乐，支持多种音乐创作子任务，助力音乐人、制作人和内容创作者实现高效创作。

ACE-Step 的主要功能

• 快速合成：在短时间内生成高质量的音乐，例如在 A100 GPU 上生成 4 分钟的音乐仅需 20 秒。
• 多样化风格：支持多种主流音乐风格（如流行、摇滚、电子、爵士等）以及多种语言的歌词生成。
• 变体生成：通过调整噪声比例生成不同变体，提供多样化的音乐选择。
• 重绘功能：对特定部分重新生成，修改风格、歌词或人声，同时保留其他元素。
• 歌词编辑：支持对生成的音乐进行局部歌词修改，同时保持旋律和伴奏不变。
• 多语言支持：支持 19 种语言，其中英语、中文、俄语、西班牙语、日语等 10 种语言表现尤为出色。
• Lyric2Vocal：基于 LoRA 微调，直接从歌词生成人声音频。
• Text2Samples：生成音乐样本和循环，帮助制作人快速创建乐器循环、音效等。

ACE-Step 的技术原理

• 扩散模型（Diffusion Model）：通过逐步去除噪声生成数据。模型能够快速合成音乐，传统扩散模型在长结构连贯性上存在不足。ACE-Step 通过创新的架构设计解决这一问题。
• 深度压缩自编码器：DCAE 用于高效的数据压缩和解压缩，保留音乐的细粒度音频细节，减少计算资源的消耗。
• 轻量级线性变换器：用于处理音乐的序列信息，确保生成的音乐在旋律、和声和节奏上具有连贯性。
• 语义对齐：ACE-Step 使用 MERT（Music Embedding Representation）和 m-hubert 技术，在训练过程中对齐语义表示（REPA），实现快速收敛和高质量的生成效果。
• 训练优化：基于训练时的语义对齐和优化技术，ACE-Step 能够在短时间内生成高质量的音乐，保持生成速度和连贯性之间的平衡。

ACE-Step 的项目地址

• 项目官网：https://www.php.cn/link/25c483880f8520828af4dba5d726d1e7
• GitHub仓库：https://www.php.cn/link/adf21078378b5c29d76423f457256e9d
• HuggingFace模型库：https://www.php.cn/link/109ac6c7e70ef69fcbf717f86c278ed1
• 在线体验Demo：https://www.php.cn/link/b681006b27581d5351925dcd2039a79b

ACE-Step 的应用场景

• 音乐创作：快速生成旋律、歌词，提供创作灵感。
• 人声生成：从歌词直接生成人声音频，适合制作人声演示。
• 音乐制作：生成乐器循环和音效，提供创作素材。
• 多语言支持：适用于跨语言音乐创作。
• 音乐教育：作为教学工具，帮助学习音乐创作。

以上就是ACE-Step— ACE Studio联合阶跃星辰开源的音乐生成基础模型的详细内容，更多请关注php中文网其它相关文章！