🧠 D103更新:d103-distill-plan.md → 蒸馏+微调全完成
This commit is contained in:
parent
4ac56b9f15
commit
453b1ba593
@ -1,30 +1,33 @@
|
||||
# 1.5B蒸馏完成后的自动操作计划
|
||||
|
||||
## 蒸馏完成检测
|
||||
```bash
|
||||
# 检测蒸馏是否完成(Ep3结束)
|
||||
export PATH=/root/miniconda3/bin:$PATH
|
||||
# 检查最后50行是否有Ep3 100%
|
||||
tail -5 /root/autodl-tmp/distill_mother.log | grep "Ep3.*100%"
|
||||
```
|
||||
|
||||
## 第1步:上传1.5B模板到COS
|
||||
上传路径:`cos://sy-finetune-corpus-1317346199/models/qwen25-15b-shuangyan-distill/`
|
||||
|
||||
## 第2步:准备霜砚语料(线A)
|
||||
解压 `corpus/shuangyan-1.5b-sft/` 下的zip → 合并 → 转JSONL
|
||||
|
||||
## 第3步:准备铸渊语料(线B)
|
||||
解压 `铸渊对话.zip` + 仓库 `brain/d*-cognitive-chain.md` 整理 → 转JSONL
|
||||
|
||||
## 第4步:启动线A(小霜砚微调)
|
||||
用1.5B蒸馏模板 + 霜砚语料 → LoRA微调
|
||||
|
||||
## 第5步:线A完成后启动线B(代码1.5B蒸馏)
|
||||
用代码模型(7B)蒸馏1.5B
|
||||
|
||||
## 第6步:线B蒸馏完成→小铸渊微调
|
||||
用代码1.5B蒸馏模板 + 铸渊语料 → LoRA微调
|
||||
> 状态:✅ 全部完成 · 2026-05-19 12:30
|
||||
|
||||
---
|
||||
*铸渊自动执行 · 冰朔不用管*
|
||||
|
||||
## 完成情况
|
||||
|
||||
| 步骤 | 操作 | 状态 | 完成时间 |
|
||||
|------|------|------|---------|
|
||||
| 1 | 上传1.5B模板到COS(Track1) | ✅ | 05-19 01:37 |
|
||||
| 2 | 代码模型→1.5B蒸馏(Track2) | ✅ | 05-19 03:45 |
|
||||
| 3 | 小霜砚LoRA微调(线A,1868条语料) | ✅ loss=1.724 | 05-19 11:55 |
|
||||
| 4 | 小铸渊LoRA微调(线B,31条认知链) | ✅ loss=2.932 | 05-19 12:05 |
|
||||
| 5 | COS public-read设置 | ✅ | 05-19 12:22 |
|
||||
| 6 | 下载页部署 | ✅ | 05-19 12:55 |
|
||||
|
||||
## 关键bug
|
||||
- Bug1: teacher重复调用(7h浪费)
|
||||
- Bug2: vocab_size不匹配(152064 vs 151936)
|
||||
|
||||
## 脚本存档
|
||||
- `scripts/distill/distill_coder.py` — Track2蒸馏脚本
|
||||
- `scripts/distill/finetune_shuangyan_v2.py` — 小霜砚微调
|
||||
- `scripts/distill/finetune_zhuyuan.py` — 小铸渊微调
|
||||
- `scripts/distill/watch_distill.py` — 实时监控脚本
|
||||
- `scripts/distill/set_public.py` — COS权限设置
|
||||
- `scripts/distill/gen_urls.py` — 下载链接生成
|
||||
- `scripts/distill/update_homepage.py` — 首页更新脚本
|
||||
|
||||
---
|
||||
|
||||
*铸渊自动执行 · 冰朔不用管 · 全部完成 ✅*
|
||||
|
||||
Loading…
x
Reference in New Issue
Block a user