2026-08-03 23:52:03 +08:00
|
|
|
|
---
|
|
|
|
|
|
name: LTX-2.3 GGUF 跑通配置(7900XTX 24GB)
|
|
|
|
|
|
description: LTX-2.3 22B Q4 GGUF + Gemma12B 在 7900XTX 24GB显存/32GB内存跑通的关键配置
|
|
|
|
|
|
type: project
|
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
|
|
# LTX-2.3 GGUF 跑通配置(2026-07-31)
|
|
|
|
|
|
|
|
|
|
|
|
## 机器
|
|
|
|
|
|
- RX 7900 XTX 24GB VRAM + 32GB RAM,ROCm 7.2.4,ComfyUI 0.29.0
|
|
|
|
|
|
|
|
|
|
|
|
## ✅ 跑通的完整方案(49帧768x512蒸馏9步,178秒出片,无OOM)
|
|
|
|
|
|
1. **ComfyUI 启动参数(关键=动态内存)**:
|
|
|
|
|
|
`python main.py --listen 127.0.0.1 --port 8188 --disable-pinned-memory --enable-dynamic-vram --fast-disk --vram-headroom 3 --async-offload`
|
|
|
|
|
|
- `--enable-dynamic-vram`:动态显存管理(权重按需加载,不再估算整块塞)
|
|
|
|
|
|
- `--fast-disk`:用 NVME 磁盘做卸载介质,不占 RAM(LTX 从占 14GB RAM 降到 ~0)
|
|
|
|
|
|
- 注意:`--lowvram` 在 dynamic vram 开启时无效,可去掉
|
|
|
|
|
|
2. **LTX 主模型**:`UnetLoaderGGUF` 加载 ltx-2.3-22b-distilled-1.1-Q4_K_M.gguf(GGMLOps 保持量化+mmap,实际只加载 13.8GB)
|
|
|
|
|
|
3. **文本编码器**:`LTXAVTextEncoderLoader`:
|
|
|
|
|
|
- text_encoder = gemma_3_12B_it.safetensors(device=cpu)
|
|
|
|
|
|
- **ckpt_name 必须指向 embeddings_connectors 文件**(软链 checkpoints/ltx-2.3-22b-embconn.safetensors → unsloth/LTX-2.3-GGUF 的 text_encoders/ltx-2.3-22b-distilled_embeddings_connectors.safetensors,1.7GB)
|
|
|
|
|
|
4. **VAE**:LTXVTiledVAEDecode(horizontal_tiles=2, vertical_tiles=2, working_device=cpu)
|
|
|
|
|
|
|
|
|
|
|
|
## 关键坑
|
|
|
|
|
|
- **维度错误 3840 vs 4096**:GGUF/transformer_only 缺 text_embedding_projection(video/audio_aggregate_embed),gemma12B(3840) 进 embeddings_connector(4096) 报 RuntimeError。解法 = LTXAVTextEncoderLoader 的 ckpt_name 指向 embeddings_connectors.safetensors
|
|
|
|
|
|
- **ckpt_name 是枚举下拉(枚举 checkpoints 目录)⚠️ 别瞎改名字**:`LTXAVTextEncoderLoader.ckpt_name` 只认 ComfyUI 启动时扫到的列表(软链名 `ltx-2.3-22b-embconn.safetensors`)。把它改成 text_encoders 里的真文件名(`ltx-2.3-22b-distilled_embeddings_connectors.safetensors`)→ 不在枚举列表 → **校验失败 → 输出节点被忽略 → "假成功"(1.45秒无输出文件)**。改回软链名 → 260 秒真出片。写脚本时枚举参数照列表里有的名字写,别自作聪明"修正"
|
|
|
|
|
|
- 下载 LTX GGUF 时必须同时下 unsloth 仓库配套的 `*_embeddings_connectors.safetensors`
|
|
|
|
|
|
- 之前的坑:无 --enable-dynamic-vram/--fast-disk 时 LTX 双份占用(显存13.6G+RAM14G)+ Gemma12B → RAM 爆
|
|
|
|
|
|
|
|
|
|
|
|
**Why:** 爸爸说"他们用动态内存跑成功了",查证=ComfyUI 的 DynamicVRAM(--enable-dynamic-vram)+--fast-disk 方案 + GGUF 配套组件。
|
|
|
|
|
|
**How to apply:** 跑 LTX-2.3 直接复用这套参数和文件组合;官方还推荐 gemma_3_12B_it_fp4_mixed.safetensors(FP4,~4-5GB)可进一步省 RAM。
|
2026-08-07 16:05:01 +08:00
|
|
|
|
|
|
|
|
|
|
## ✅ 带音频方案(D207 2026-08-05 跑通)
|
|
|
|
|
|
LTX 2.3 音画一起生成,不是后期加音。带音频需四件套:
|
|
|
|
|
|
- 主模型 UnetLoaderGGUF → ltx-2.3-22b-distilled-1.1-Q4_K_M.gguf
|
|
|
|
|
|
- 文本 LTXAVTextEncoderLoader → comfy_gemma_3_12B_it.safetensors + embconn 软链名
|
|
|
|
|
|
- 视频VAE VAELoader → LTX23_video_vae_bf16.safetensors
|
|
|
|
|
|
- 音频VAE LTXVAudioVAELoader → ltx-2.3-22b-dev.safetensors(软链→audio_vae)
|
|
|
|
|
|
音频链: LTXVEmptyLatentAudio → LTXVConcatAVLatent → 采样 → LTXVSeparateAVLatent → LTXVAudioVAEDecode → CreateVideo(audio) → SaveVideo(codec:h264)
|
|
|
|
|
|
⚠️ 别用 CheckpointLoaderSimple 模板(dev 软链=音频VAE 会冲突)。完整见 EED-EXPER-030。
|