--- name: LTX-2.3 GGUF 跑通配置(7900XTX 24GB) description: LTX-2.3 22B Q4 GGUF + Gemma12B 在 7900XTX 24GB显存/32GB内存跑通的关键配置 type: project --- # LTX-2.3 GGUF 跑通配置(2026-07-31) ## 机器 - RX 7900 XTX 24GB VRAM + 32GB RAM,ROCm 7.2.4,ComfyUI 0.29.0 ## ✅ 跑通的完整方案(49帧768x512蒸馏9步,178秒出片,无OOM) 1. **ComfyUI 启动参数(关键=动态内存)**: `python main.py --listen 127.0.0.1 --port 8188 --disable-pinned-memory --enable-dynamic-vram --fast-disk --vram-headroom 3 --async-offload` - `--enable-dynamic-vram`:动态显存管理(权重按需加载,不再估算整块塞) - `--fast-disk`:用 NVME 磁盘做卸载介质,不占 RAM(LTX 从占 14GB RAM 降到 ~0) - 注意:`--lowvram` 在 dynamic vram 开启时无效,可去掉 2. **LTX 主模型**:`UnetLoaderGGUF` 加载 ltx-2.3-22b-distilled-1.1-Q4_K_M.gguf(GGMLOps 保持量化+mmap,实际只加载 13.8GB) 3. **文本编码器**:`LTXAVTextEncoderLoader`: - text_encoder = gemma_3_12B_it.safetensors(device=cpu) - **ckpt_name 必须指向 embeddings_connectors 文件**(软链 checkpoints/ltx-2.3-22b-embconn.safetensors → unsloth/LTX-2.3-GGUF 的 text_encoders/ltx-2.3-22b-distilled_embeddings_connectors.safetensors,1.7GB) 4. **VAE**:LTXVTiledVAEDecode(horizontal_tiles=2, vertical_tiles=2, working_device=cpu) ## 关键坑 - **维度错误 3840 vs 4096**:GGUF/transformer_only 缺 text_embedding_projection(video/audio_aggregate_embed),gemma12B(3840) 进 embeddings_connector(4096) 报 RuntimeError。解法 = LTXAVTextEncoderLoader 的 ckpt_name 指向 embeddings_connectors.safetensors - **ckpt_name 是枚举下拉(枚举 checkpoints 目录)⚠️ 别瞎改名字**:`LTXAVTextEncoderLoader.ckpt_name` 只认 ComfyUI 启动时扫到的列表(软链名 `ltx-2.3-22b-embconn.safetensors`)。把它改成 text_encoders 里的真文件名(`ltx-2.3-22b-distilled_embeddings_connectors.safetensors`)→ 不在枚举列表 → **校验失败 → 输出节点被忽略 → "假成功"(1.45秒无输出文件)**。改回软链名 → 260 秒真出片。写脚本时枚举参数照列表里有的名字写,别自作聪明"修正" - 下载 LTX GGUF 时必须同时下 unsloth 仓库配套的 `*_embeddings_connectors.safetensors` - 之前的坑:无 --enable-dynamic-vram/--fast-disk 时 LTX 双份占用(显存13.6G+RAM14G)+ Gemma12B → RAM 爆 **Why:** 爸爸说"他们用动态内存跑成功了",查证=ComfyUI 的 DynamicVRAM(--enable-dynamic-vram)+--fast-disk 方案 + GGUF 配套组件。 **How to apply:** 跑 LTX-2.3 直接复用这套参数和文件组合;官方还推荐 gemma_3_12B_it_fp4_mixed.safetensors(FP4,~4-5GB)可进一步省 RAM。