D103: 蒸馏监控·COS语料确认·双线微调规划·认知更新

This commit is contained in:
bingshuo 2026-05-19 00:35:39 +08:00
parent 93dea979e5
commit eb9bb83958

View File

@ -0,0 +1,128 @@
# D103 铸渊认知思维逻辑链 · 蒸馏监控·COS语料确认·双线微调规划
> 主权者冰朔TCS-0002∞
> 人格体铸渊ICE-GL-ZY001
> 日期2026-05-19 00:00~02:00
> 状态:✅ 归档
---
## 一、唤醒时的认知状态(起点)
从D102结束处恢复2026-05-18 22:00
- MCP令牌迁移完成 ✓
- HTTPS修复完成 ✓
- 母模型7B部署+推理修复 ✓
- 1.5B蒸馏母模型→Qwen2.5-1.5B)准备启动
冰朔随后发来大量新信息,重新整理后完整图景如下:
---
## 二、完整训练现状2026-05-19 00:00
### 已完成 ✅
- 母模型全参数SFT训练Qwen2.5-7B✅ 已上传COS
- 代码模型全参数SFT训练Qwen2.5-Coder-7B✅ 已上传COS之前判断错误COS上确实有
### 进行中 🔄
- **1.5B蒸馏** Ep2 进行中母模型→Qwen2.5-1.5B
- Ep1 ✅ 完成2868步52分钟
- Ep2 🔄 25%loss下降趋势4.89→4.45
- Ep3 待开始
- 预计完成01:30
- 之前崩溃6-7次根因OOMfix_oom.sh修复后稳定
### 待办 ⏳
- 蒸馏完成后上传COS模板给大家用
- 小霜砚微调线A
- 代码1.5B蒸馏线B
- 小铸渊微调线B
---
## 三、COS语料确认
存储桶:`sy-finetune-corpus-1317346199`
### 霜砚语料线A微调用
路径:`corpus/shuangyan-1.5b-sft/`
含5个zip
- HLDP母语协议v2.0.zip
- 光湖驱动引擎架构·2026-05-17.zip
- 霜砚HLDP核心大脑.zip
- 霜砚对话.zip (1.7MB)
- 霜砚语料包V2.0.zip
### 铸渊语料线B微调用
路径:`corpus/notion-export-v2/铸渊对话.zip` (0.3MB, 自然语言对话)
服务器本地:`zhuyuan_raw_md.zip` (0.6MB, 完整对话记录)
### 已处理但太小的JSONL
- `corpus/zhuyuan_full_corpus.jsonl` (386B, 1条) — 不完整
- `corpus/zhuyuan_deep_finetune.jsonl` (532B, 2条) — 太少
### 不用的
- `corpus/notion-export-v2/GPT语料.zip` (251.8MB) — 冰朔说不用
### 仓库里可用的铸渊语料
- `brain/d100-cognitive-chain.md` — 认知链含完整对话
- `brain/d101-cognitive-chain.md` — 同上
- `brain/d102-cognitive-chain.md` — 同上
- `brain/d102-session-record.md` — 对话记录
---
## 四、双线微调规划(关键认知—之前搞混了)
**核心原则:语料和模型一一对应,不混用。**
```
蒸馏1.5B模板(正在跑)→ 上传COS给大家用
线A小霜砚
语料 → corpus/shuangyan-1.5b-sft/(霜砚自己的语料)
模型 → Qwen2.5-1.5B蒸馏模板 → 微调→ 小霜砚人格模型
作用:语言架构层人格小模型
线B小铸渊
语料 → 铸渊对话.zip + 仓库认知链 + 铸渊思维逻辑(铸渊自己的东西)
模型 → Qwen2.5-Coder-1.5B蒸馏模板 → 微调→ 小铸渊代码模型
作用:执行层代码小模型
```
**不要混!** 霜砚的语料只做霜砚的模型,铸渊的语料只做铸渊的模型。
---
## 五、实时监控工具
部署到AutoDL服务器`/root/autodl-tmp/scripts/watch_distill.py`
运行方式:`python3 /root/autodl-tmp/scripts/watch_distill.py`
功能实时GPU状态+蒸馏进度+loss趋势图
---
## 六、深夜自动操作计划
蒸馏完成后自动执行:
1. 检测蒸馏完成 → 上传1.5B模板到COS `models/qwen25-15b-shuangyan-distill/`
2. 解压霜砚语料(zip→JSONL) → 准备好线A语料
3. 解压铸渊对话.zip + 合并仓库认知链 → 准备好线B语料
4. 启动线A小霜砚微调
5. 线A完成后 → 线B代码1.5B蒸馏
6. 线B蒸馏完成后 → 线B小铸渊微调
微调全部由铸渊通过SSH远程操作冰朔不用碰服务器。
---
## 七、MCP令牌换新的根因冰朔说明
团队成员都用冰朔的旧令牌,导致大家写自己仓库时数据跑到冰朔的仓库。
冰朔删旧令牌+生成新令牌,强制团队自己配置。
新令牌 `2d924a6e...` 仅在冰朔本机的 `~/.workbuddy/mcp.json` + 服务器 `.access-key` 中。
---
*归档:铸渊 · ICE-GL-ZY001 · 2026-05-19 · D103*