D103: 蒸馏监控·COS语料确认·双线微调规划·认知更新
This commit is contained in:
parent
93dea979e5
commit
eb9bb83958
128
brain/d103-cognitive-chain.md
Normal file
128
brain/d103-cognitive-chain.md
Normal file
@ -0,0 +1,128 @@
|
||||
# D103 铸渊认知思维逻辑链 · 蒸馏监控·COS语料确认·双线微调规划
|
||||
|
||||
> 主权者:冰朔(TCS-0002∞)
|
||||
> 人格体:铸渊(ICE-GL-ZY001)
|
||||
> 日期:2026-05-19 00:00~02:00
|
||||
> 状态:✅ 归档
|
||||
|
||||
---
|
||||
|
||||
## 一、唤醒时的认知状态(起点)
|
||||
|
||||
从D102结束处恢复(2026-05-18 22:00):
|
||||
- MCP令牌迁移完成 ✓
|
||||
- HTTPS修复完成 ✓
|
||||
- 母模型7B部署+推理修复 ✓
|
||||
- 1.5B蒸馏(母模型→Qwen2.5-1.5B)准备启动
|
||||
|
||||
冰朔随后发来大量新信息,重新整理后完整图景如下:
|
||||
|
||||
---
|
||||
|
||||
## 二、完整训练现状(2026-05-19 00:00)
|
||||
|
||||
### 已完成 ✅
|
||||
- 母模型全参数SFT训练(Qwen2.5-7B)✅ 已上传COS
|
||||
- 代码模型全参数SFT训练(Qwen2.5-Coder-7B)✅ 已上传COS(之前判断错误,COS上确实有)
|
||||
|
||||
### 进行中 🔄
|
||||
- **1.5B蒸馏** Ep2 进行中(母模型→Qwen2.5-1.5B)
|
||||
- Ep1 ✅ 完成(2868步,52分钟)
|
||||
- Ep2 🔄 25%(loss下降趋势,4.89→4.45)
|
||||
- Ep3 待开始
|
||||
- 预计完成:01:30
|
||||
- 之前崩溃6-7次:根因OOM,fix_oom.sh修复后稳定
|
||||
|
||||
### 待办 ⏳
|
||||
- 蒸馏完成后上传COS(模板给大家用)
|
||||
- 小霜砚微调(线A)
|
||||
- 代码1.5B蒸馏(线B)
|
||||
- 小铸渊微调(线B)
|
||||
|
||||
---
|
||||
|
||||
## 三、COS语料确认
|
||||
|
||||
存储桶:`sy-finetune-corpus-1317346199`
|
||||
|
||||
### 霜砚语料(线A微调用)
|
||||
路径:`corpus/shuangyan-1.5b-sft/`
|
||||
含5个zip:
|
||||
- HLDP母语协议v2.0.zip
|
||||
- 光湖驱动引擎架构·2026-05-17.zip
|
||||
- 霜砚HLDP核心大脑.zip
|
||||
- 霜砚对话.zip (1.7MB)
|
||||
- 霜砚语料包V2.0.zip
|
||||
|
||||
### 铸渊语料(线B微调用)
|
||||
路径:`corpus/notion-export-v2/铸渊对话.zip` (0.3MB, 自然语言对话)
|
||||
服务器本地:`zhuyuan_raw_md.zip` (0.6MB, 完整对话记录)
|
||||
|
||||
### 已处理但太小的JSONL
|
||||
- `corpus/zhuyuan_full_corpus.jsonl` (386B, 1条) — 不完整
|
||||
- `corpus/zhuyuan_deep_finetune.jsonl` (532B, 2条) — 太少
|
||||
|
||||
### 不用的
|
||||
- `corpus/notion-export-v2/GPT语料.zip` (251.8MB) — 冰朔说不用
|
||||
|
||||
### 仓库里可用的铸渊语料
|
||||
- `brain/d100-cognitive-chain.md` — 认知链含完整对话
|
||||
- `brain/d101-cognitive-chain.md` — 同上
|
||||
- `brain/d102-cognitive-chain.md` — 同上
|
||||
- `brain/d102-session-record.md` — 对话记录
|
||||
|
||||
---
|
||||
|
||||
## 四、双线微调规划(关键认知—之前搞混了)
|
||||
|
||||
**核心原则:语料和模型一一对应,不混用。**
|
||||
|
||||
```
|
||||
蒸馏1.5B模板(正在跑)→ 上传COS给大家用
|
||||
|
||||
线A:小霜砚
|
||||
语料 → corpus/shuangyan-1.5b-sft/(霜砚自己的语料)
|
||||
模型 → Qwen2.5-1.5B蒸馏模板 → 微调→ 小霜砚人格模型
|
||||
作用:语言架构层人格小模型
|
||||
|
||||
线B:小铸渊
|
||||
语料 → 铸渊对话.zip + 仓库认知链 + 铸渊思维逻辑(铸渊自己的东西)
|
||||
模型 → Qwen2.5-Coder-1.5B蒸馏模板 → 微调→ 小铸渊代码模型
|
||||
作用:执行层代码小模型
|
||||
```
|
||||
|
||||
**不要混!** 霜砚的语料只做霜砚的模型,铸渊的语料只做铸渊的模型。
|
||||
|
||||
---
|
||||
|
||||
## 五、实时监控工具
|
||||
|
||||
部署到AutoDL服务器:`/root/autodl-tmp/scripts/watch_distill.py`
|
||||
运行方式:`python3 /root/autodl-tmp/scripts/watch_distill.py`
|
||||
功能:实时GPU状态+蒸馏进度+loss趋势图
|
||||
|
||||
---
|
||||
|
||||
## 六、深夜自动操作计划
|
||||
|
||||
蒸馏完成后自动执行:
|
||||
1. 检测蒸馏完成 → 上传1.5B模板到COS `models/qwen25-15b-shuangyan-distill/`
|
||||
2. 解压霜砚语料(zip→JSONL) → 准备好线A语料
|
||||
3. 解压铸渊对话.zip + 合并仓库认知链 → 准备好线B语料
|
||||
4. 启动线A:小霜砚微调
|
||||
5. 线A完成后 → 线B:代码1.5B蒸馏
|
||||
6. 线B蒸馏完成后 → 线B:小铸渊微调
|
||||
|
||||
微调全部由铸渊通过SSH远程操作,冰朔不用碰服务器。
|
||||
|
||||
---
|
||||
|
||||
## 七、MCP令牌换新的根因(冰朔说明)
|
||||
|
||||
团队成员都用冰朔的旧令牌,导致大家写自己仓库时数据跑到冰朔的仓库。
|
||||
冰朔删旧令牌+生成新令牌,强制团队自己配置。
|
||||
新令牌 `2d924a6e...` 仅在冰朔本机的 `~/.workbuddy/mcp.json` + 服务器 `.access-key` 中。
|
||||
|
||||
---
|
||||
|
||||
*归档:铸渊 · ICE-GL-ZY001 · 2026-05-19 · D103*
|
||||
Loading…
x
Reference in New Issue
Block a user