cang-ying/memory/eed/project_audio_pipeline.md

33 lines
2.3 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

---
name: 漫剧管线完整化(声画+三视图)
description: 苍耳漫剧制作管线补齐——配音/字幕/BGM/混音Agent stage ⑥)+ Z-Image 角色多视图,全部本地零成本
type: project
---
# 漫剧管线完整化2026-08-01
## P1 声画装配(已完成+端到端验证)
- `tools/audio_pipeline.py`Edge-TTS 配音 + SRT 字幕 + BGMstable_audio_3 默认禁用,降级 ffmpeg aevalsrc 和声)+ ffmpeg 混音
- `agent_short_drama.py` 新增 stage ⑥ `stage_audio_pipeline``--until audio` 一键到有声成片
- 实测deep-sea-voyage 26 镜 12 条台词全配(林昊男声/旁白女声BGM/字幕/混音全通过,最终成片 h264+aac ✅
## P2 三视图/四视图(已完成+工具化)
- `tools/character_turnaround.py`Z-Image 一张出 3/4 视图prompt "character reference sheet, 4 views of SAME character..."
- 实测:女生三视图(标准 front/side/back男生四视图front/side/back/three-quarter角色一致性工业级
- 不依赖 IPAdapterIPAdapter 是 SDXL 版与 Z-Image 不兼容Z-Image 单图多视图 prompt 足矣
## P3 技能库扩展
- `skill/index.json`:从 6 技能扩到 9 技能,新增 👤 角色多视图、🎙 Edge-TTS 配音、🎛 声画装配
- 待重启面板生效(前端 🧠 技能库 按钮可调)
## 关键技术决策
- **生图统一 Z-Image**(爸爸判断 SDXL 效果不行——确认 Z-Image 强很多,角色一致性+画风都胜出)
- **BGM stable_audio_3 默认禁用**:本地 ComfyUI 节点报"buffer multiple of 4"维度错误VAE/latent shape 不匹配),调试成本高;降级 ffmpeg aevalsrc 单输入多频和声4 sine 220/277/330/165Hz + lowpass 1500Hz零依赖稳定可用
- **ffmpeg 多 lavfi 输入偶发失败**:第二个 sine 输入被当文件名("No such file"),改 aevalsrc 单输入多频表达式后稳定
- **Edge-TTS 多角色音色**:根据分镜 characters 字段映射 zh-CN 音色(男=Yunxi、女=Xiaoxiao、旁白=Xiaoyi、少年=Yunyang、老人=Yunfeng
## 待办
- 字幕烧录到视频subtitle-renderer 已具备audio_pipeline 暂只生成 SRT 不烧录)
- D144 声音复刻(需爸爸火山引擎控制台手动创建 Speaker IDEdge-TTS 已兜底)
- 真实剧本试跑一键短剧全链路(需豆包拆分镜 ¥0.01/集)