ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

5分钟跑通Stable Audio 3 Medium:从环境搭建到首次文本生成音乐的最快教程

5分钟跑通Stable Audio 3 Medium:从环境搭建到首次文本生成音乐的最快教程

【免费下载链接】stable-audio-3-medium-base

项目地址:https://ai.gitcode.com/hf_mirrors/stabilityai/stable-audio-3-medium-base
点击查看免费下载

Stable Audio 3 Medium 是 Stability AI 推出的快速文本生成音乐模型,基于潜扩散(latent diffusion)架构,能在消费级硬件上把一段文字提示变成几分钟长的立体声音乐。本教程带你从环境搭建到首次文本生成音乐,全程不超过 5 分钟。⚡

为什么选择 Stable Audio 3 Medium?

Stable Audio 3 是一个小/中/大三档的模型家族,Medium 档在"速度、质量、显存"之间取得了很好的平衡:

特性说明
🎵 变长音频生成支持生成数分钟长度的音乐与音效,短音频不必付全长的计算成本
🔊 高保真输出44.1kHz 立体声,由语义-声学自编码器(TA-AE)驱动
⚡ 推理快官方称 H200 GPU 上 2 秒内、MacBook Pro M4 上数秒内可完成生成
✏️ 支持局部重绘内置 inpainting,可针对性编辑音频或续写短录音
🧠 文本理解使用 T5Gemma 作为文本编码器,对音乐类提示词理解更好

📌重要提示:当前仓库stable-audio-3-medium-base是基座(预训练)模型,官方定位是用于微调。如果你只是想直接生成音乐,可改用非 base 版的stable-audio-3-medium,两者使用方式完全相同。详见 README.md。

环境搭建:3 步装好运行环境

1. 准备 Python 环境

建议 Python 3.10+,并创建独立虚拟环境:

python3 -m venv sa3-env source sa3-env/bin/activate # Windows 可用 sa3-env\Scripts\activate

2. 安装 PyTorch

有 NVIDIA GPU 的话优先安装 CUDA 版本,Mac 用户可直接用默认版本(MPS 加速):

pip install torch torchaudio

3. 安装 stable-audio-3 推理库

Stable Audio 3 官方提供了两个配套库:

  • stable-audio-3:推理 + 微调库,新手推荐,API 最简单
  • stable-audio-tools:研究向库,功能更底层、可定制性更强

本教程使用前者:

pip install stable-audio-3

首次文本生成音乐:一段代码跑通

模型权重会随库自动下载(含 model.safetensors 权重、svd_bases.pt 与 t5gemma-b-b-ul2/ 文本编码器),无需手动搬运文件。新建demo.py,写入以下内容并运行python demo.py:

from stable_audio_3 import StableAudioModel model = StableAudioModel.from_pretrained("medium-base") audio = model.generate( prompt=( "House music that encapsulates the feeling of being at a festival " "in the sunny weather with all your friends 124 BPM" ), duration=180, steps=50, cfg_scale=7.0 )

这段官方示例代码来自 README.md,运行后你将得到一段约 3 分钟的 House 音乐。💪

生成参数速查:duration、steps、cfg_scale 怎么调?

参数示例值含义与调法
prompt音乐描述 + BPM提示词越具体越好,建议带上 BPM 和风格词(如 "124 BPM"、"dream-like Synthpop")
duration180生成时长(秒)。模型最长支持 384 秒,配置见 model_config.json
steps50扩散采样步数。步数越多细节越丰富,但耗时也更长;50 是官方演示值
cfg_scale7.0提示词遵循强度。偏低时"自由发挥"多,偏高时更贴合提示词但可能生硬

💡 提示词技巧:Stable Audio 3 的提示词以英文效果最佳,"风格 + 情绪 + 场景 + BPM"的句式最容易出好结果,例如官方另一示例 "A dream-like Synthpop instrumental that would accompany a dream-sequence in a surrealist movie 120 BPM"(见 README.md)。

仓库文件清单:每个文件是做什么的?

文件作用
model.safetensors扩散模型(DiT 主干,24 层、24 头)权重
model_config.json完整模型配置:44.1kHz 采样率、双声道、TA-AE 自编码器、T5Gemma 条件等
svd_bases.pt预训练配套的权重文件
t5gemma-b-b-ul2/文本编码器 T5Gemma(B 编码器 + B 解码器),负责把提示词转成语义条件,模型卡见 t5gemma-b-b-ul2/README.md
README.md模型卡:功能说明、两种用法示例、训练数据披露
LICENSE.mdStability AI Community License 许可协议
LICENSE_GEMMA.mdT5Gemma 所遵循的 Gemma 使用条款
NOTICE版权与再分发声明

从 model_config.json 可以看到,模型同时接受prompt(文本)和seconds_total(时长)两路条件,这正是"指定生成时长"功能的来源。

许可与注意事项,使用前必读

  • 📄主模型采用 Stability AI Community License:科研与非商业用途免费;商业用途在年营收低于 100 万美元(或等值货币)内免费,超出需另行申请企业许可。商用前请阅读 LICENSE.md 全文。
  • 🧩T5Gemma 部分遵循 Gemma Terms of Use,使用前需了解 Google 的 Gemma 条款,声明见 NOTICE。
  • 🎓定位提醒:medium-base面向微调场景;直接出歌请用stable-audio-3-medium。
  • 🗂 模型训练数据来自 127 万余条有声授权录音(AudioSparx 与 Freesound),音乐版权内容已被识别并剔除,详见 README.md。

常见问题 FAQ

Q1:没有独立显卡能跑吗?能。官方在 MacBook Pro M4 上数秒即可出结果;纯 CPU 可以运行但速度较慢,建议先用duration=30左右的短音频试水。

Q2:为什么叫 medium-"base"?"base" 表示这是微调前的基座权重。它保留了完整的训练/推理管线,方便你把自己的音乐风格"喂"给模型做领域定制。

Q3:生成的音乐能商用吗?需同时满足 Stability AI Community License 与 Gemma 条款(针对 T5Gemma 编码器);年营收超过 100 万美元的主体需申请企业许可。

Q4:如何换用 stable-audio-tools 库?同样支持,可参考 README.md 中的get_pretrained_model+generate_diffusion_cond_inpaint完整示例,适合需要更细粒度控制(如采样器类型sampler_type)的用户。

下一步:从"跑通"到"用好"

  1. 换一批提示词,观察cfg_scale在 2 / 4 / 7 之间的差异(官方演示配置见 model_config.json)
  2. 尝试duration从 30 秒逐步拉到 384 秒的极限
  3. 进阶方向:基于medium-base做领域微调,把模型调教成你的专属"编曲师" 🎹

5 分钟,你已经完成了 Stable Audio 3 Medium 从环境搭建到文本生成音乐的全流程。现在,轮到你的提示词上场了。

【免费下载链接】stable-audio-3-medium-base

项目地址:https://ai.gitcode.com/hf_mirrors/stabilityai/stable-audio-3-medium-base
点击查看免费下载

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进