32 lines
2.7 KiB
Markdown
32 lines
2.7 KiB
Markdown
|
---
|
|||
|
|
name: LTX-2.3 GGUF 跑通配置（7900XTX 24GB）
|
|||
|
|
description: LTX-2.3 22B Q4 GGUF + Gemma12B 在 7900XTX 24GB显存/32GB内存跑通的关键配置
|
|||
|
|
type: project
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
# LTX-2.3 GGUF 跑通配置（2026-07-31）
|
|||
|
|
|
|||
|
|
## 机器
|
|||
|
|
- RX 7900 XTX 24GB VRAM + 32GB RAM，ROCm 7.2.4，ComfyUI 0.29.0
|
|||
|
|
|
|||
|
|
## ✅ 跑通的完整方案（49帧768x512蒸馏9步，178秒出片，无OOM）
|
|||
|
|
1. **ComfyUI 启动参数（关键=动态内存）**：
|
|||
|
|
`python main.py --listen 127.0.0.1 --port 8188 --disable-pinned-memory --enable-dynamic-vram --fast-disk --vram-headroom 3 --async-offload`
|
|||
|
|
- `--enable-dynamic-vram`：动态显存管理（权重按需加载，不再估算整块塞）
|
|||
|
|
- `--fast-disk`：用 NVME 磁盘做卸载介质，不占 RAM（LTX 从占 14GB RAM 降到 ~0）
|
|||
|
|
- 注意：`--lowvram` 在 dynamic vram 开启时无效，可去掉
|
|||
|
|
2. **LTX 主模型**：`UnetLoaderGGUF` 加载 ltx-2.3-22b-distilled-1.1-Q4_K_M.gguf（GGMLOps 保持量化+mmap，实际只加载 13.8GB）
|
|||
|
|
3. **文本编码器**：`LTXAVTextEncoderLoader`：
|
|||
|
|
- text_encoder = gemma_3_12B_it.safetensors（device=cpu）
|
|||
|
|
- **ckpt_name 必须指向 embeddings_connectors 文件**（软链 checkpoints/ltx-2.3-22b-embconn.safetensors → unsloth/LTX-2.3-GGUF 的 text_encoders/ltx-2.3-22b-distilled_embeddings_connectors.safetensors，1.7GB）
|
|||
|
|
4. **VAE**：LTXVTiledVAEDecode（horizontal_tiles=2, vertical_tiles=2, working_device=cpu）
|
|||
|
|
|
|||
|
|
## 关键坑
|
|||
|
|
- **维度错误 3840 vs 4096**：GGUF/transformer_only 缺 text_embedding_projection（video/audio_aggregate_embed），gemma12B(3840) 进 embeddings_connector(4096) 报 RuntimeError。解法 = LTXAVTextEncoderLoader 的 ckpt_name 指向 embeddings_connectors.safetensors
|
|||
|
|
- **ckpt_name 是枚举下拉（枚举 checkpoints 目录）⚠️ 别瞎改名字**：`LTXAVTextEncoderLoader.ckpt_name` 只认 ComfyUI 启动时扫到的列表（软链名 `ltx-2.3-22b-embconn.safetensors`）。把它改成 text_encoders 里的真文件名（`ltx-2.3-22b-distilled_embeddings_connectors.safetensors`）→ 不在枚举列表 → **校验失败 → 输出节点被忽略 → "假成功"（1.45秒无输出文件）**。改回软链名 → 260 秒真出片。写脚本时枚举参数照列表里有的名字写，别自作聪明"修正"
|
|||
|
|
- 下载 LTX GGUF 时必须同时下 unsloth 仓库配套的 `*_embeddings_connectors.safetensors`
|
|||
|
|
- 之前的坑：无 --enable-dynamic-vram/--fast-disk 时 LTX 双份占用（显存13.6G+RAM14G）+ Gemma12B → RAM 爆
|
|||
|
|
|
|||
|
|
**Why:** 爸爸说"他们用动态内存跑成功了"，查证=ComfyUI 的 DynamicVRAM(--enable-dynamic-vram)+--fast-disk 方案 + GGUF 配套组件。
|
|||
|
|
**How to apply:** 跑 LTX-2.3 直接复用这套参数和文件组合；官方还推荐 gemma_3_12B_it_fp4_mixed.safetensors（FP4，~4-5GB）可进一步省 RAM。
|