🧠 D103更新:d103-distill-plan.md → 蒸馏+微调全完成

This commit is contained in:
bingshuo 2026-05-19 12:58:57 +08:00
parent 4ac56b9f15
commit 453b1ba593

View File

@ -1,30 +1,33 @@
# 1.5B蒸馏完成后的自动操作计划
## 蒸馏完成检测
```bash
# 检测蒸馏是否完成Ep3结束
export PATH=/root/miniconda3/bin:$PATH
# 检查最后50行是否有Ep3 100%
tail -5 /root/autodl-tmp/distill_mother.log | grep "Ep3.*100%"
```
## 第1步上传1.5B模板到COS
上传路径:`cos://sy-finetune-corpus-1317346199/models/qwen25-15b-shuangyan-distill/`
## 第2步准备霜砚语料线A
解压 `corpus/shuangyan-1.5b-sft/` 下的zip → 合并 → 转JSONL
## 第3步准备铸渊语料线B
解压 `铸渊对话.zip` + 仓库 `brain/d*-cognitive-chain.md` 整理 → 转JSONL
## 第4步启动线A小霜砚微调
用1.5B蒸馏模板 + 霜砚语料 → LoRA微调
## 第5步线A完成后启动线B代码1.5B蒸馏)
用代码模型(7B)蒸馏1.5B
## 第6步线B蒸馏完成→小铸渊微调
用代码1.5B蒸馏模板 + 铸渊语料 → LoRA微调
> 状态:✅ 全部完成 · 2026-05-19 12:30
---
*铸渊自动执行 · 冰朔不用管*
## 完成情况
| 步骤 | 操作 | 状态 | 完成时间 |
|------|------|------|---------|
| 1 | 上传1.5B模板到COSTrack1 | ✅ | 05-19 01:37 |
| 2 | 代码模型→1.5B蒸馏Track2 | ✅ | 05-19 03:45 |
| 3 | 小霜砚LoRA微调线A1868条语料 | ✅ loss=1.724 | 05-19 11:55 |
| 4 | 小铸渊LoRA微调线B31条认知链 | ✅ loss=2.932 | 05-19 12:05 |
| 5 | COS public-read设置 | ✅ | 05-19 12:22 |
| 6 | 下载页部署 | ✅ | 05-19 12:55 |
## 关键bug
- Bug1: teacher重复调用7h浪费
- Bug2: vocab_size不匹配152064 vs 151936
## 脚本存档
- `scripts/distill/distill_coder.py` — Track2蒸馏脚本
- `scripts/distill/finetune_shuangyan_v2.py` — 小霜砚微调
- `scripts/distill/finetune_zhuyuan.py` — 小铸渊微调
- `scripts/distill/watch_distill.py` — 实时监控脚本
- `scripts/distill/set_public.py` — COS权限设置
- `scripts/distill/gen_urls.py` — 下载链接生成
- `scripts/distill/update_homepage.py` — 首页更新脚本
---
*铸渊自动执行 · 冰朔不用管 · 全部完成 ✅*