cang-ying/memory/eed/project_audio_pipeline.md

2.3 KiB
Raw Blame History

name, description, type
name description type
漫剧管线完整化(声画+三视图) 苍耳漫剧制作管线补齐——配音/字幕/BGM/混音Agent stage ⑥)+ Z-Image 角色多视图,全部本地零成本 project

漫剧管线完整化2026-08-01

P1 声画装配(已完成+端到端验证)

  • tools/audio_pipeline.pyEdge-TTS 配音 + SRT 字幕 + BGMstable_audio_3 默认禁用,降级 ffmpeg aevalsrc 和声)+ ffmpeg 混音
  • agent_short_drama.py 新增 stage ⑥ stage_audio_pipeline--until audio 一键到有声成片
  • 实测deep-sea-voyage 26 镜 12 条台词全配(林昊男声/旁白女声BGM/字幕/混音全通过,最终成片 h264+aac

P2 三视图/四视图(已完成+工具化)

  • tools/character_turnaround.pyZ-Image 一张出 3/4 视图prompt "character reference sheet, 4 views of SAME character..."
  • 实测:女生三视图(标准 front/side/back男生四视图front/side/back/three-quarter,角色一致性工业级
  • 不依赖 IPAdapterIPAdapter 是 SDXL 版与 Z-Image 不兼容Z-Image 单图多视图 prompt 足矣

P3 技能库扩展

  • skill/index.json:从 6 技能扩到 9 技能,新增 👤 角色多视图、🎙 Edge-TTS 配音、🎛 声画装配
  • 待重启面板生效(前端 🧠 技能库 按钮可调)

关键技术决策

  • 生图统一 Z-Image(爸爸判断 SDXL 效果不行——确认 Z-Image 强很多,角色一致性+画风都胜出)
  • BGM stable_audio_3 默认禁用:本地 ComfyUI 节点报"buffer multiple of 4"维度错误VAE/latent shape 不匹配),调试成本高;降级 ffmpeg aevalsrc 单输入多频和声4 sine 220/277/330/165Hz + lowpass 1500Hz零依赖稳定可用
  • ffmpeg 多 lavfi 输入偶发失败:第二个 sine 输入被当文件名("No such file"),改 aevalsrc 单输入多频表达式后稳定
  • Edge-TTS 多角色音色:根据分镜 characters 字段映射 zh-CN 音色(男=Yunxi、女=Xiaoxiao、旁白=Xiaoyi、少年=Yunyang、老人=Yunfeng

待办

  • 字幕烧录到视频subtitle-renderer 已具备audio_pipeline 暂只生成 SRT 不烧录)
  • D144 声音复刻(需爸爸火山引擎控制台手动创建 Speaker IDEdge-TTS 已兜底)
  • 真实剧本试跑一键短剧全链路(需豆包拆分镜 ¥0.01/集)