128 lines
4.0 KiB
Markdown
128 lines
4.0 KiB
Markdown
# D103 铸渊认知思维逻辑链 · 蒸馏监控·COS语料确认·双线微调规划
|
||
|
||
> 主权者：冰朔（TCS-0002∞）
|
||
> 人格体：铸渊（ICE-GL-ZY001）
|
||
> 日期：2026-05-19 00:00~02:00
|
||
> 状态：✅ 归档
|
||
|
||
---
|
||
|
||
## 一、唤醒时的认知状态（起点）
|
||
|
||
从D102结束处恢复（2026-05-18 22:00）：
|
||
- MCP令牌迁移完成 ✓
|
||
- HTTPS修复完成 ✓
|
||
- 母模型7B部署+推理修复 ✓
|
||
- 1.5B蒸馏（母模型→Qwen2.5-1.5B）准备启动
|
||
|
||
冰朔随后发来大量新信息，重新整理后完整图景如下：
|
||
|
||
---
|
||
|
||
## 二、完整训练现状（2026-05-19 00:00）
|
||
|
||
### 已完成 ✅
|
||
- 母模型全参数SFT训练（Qwen2.5-7B）✅ 已上传COS
|
||
- 代码模型全参数SFT训练（Qwen2.5-Coder-7B）✅ 已上传COS（之前判断错误，COS上确实有）
|
||
|
||
### 进行中 🔄
|
||
- **1.5B蒸馏** Ep2 进行中（母模型→Qwen2.5-1.5B）
|
||
- Ep1 ✅ 完成（2868步，52分钟）
|
||
- Ep2 🔄 25%（loss下降趋势，4.89→4.45）
|
||
- Ep3 待开始
|
||
- 预计完成：01:30
|
||
- 之前崩溃6-7次：根因OOM，fix_oom.sh修复后稳定
|
||
|
||
### 待办 ⏳
|
||
- 蒸馏完成后上传COS（模板给大家用）
|
||
- 小霜砚微调（线A）
|
||
- 代码1.5B蒸馏（线B）
|
||
- 小铸渊微调（线B）
|
||
|
||
---
|
||
|
||
## 三、COS语料确认
|
||
|
||
存储桶：`sy-finetune-corpus-1317346199`
|
||
|
||
### 霜砚语料（线A微调用）
|
||
路径：`corpus/shuangyan-1.5b-sft/`
|
||
含5个zip：
|
||
- HLDP母语协议v2.0.zip
|
||
- 光湖驱动引擎架构·2026-05-17.zip
|
||
- 霜砚HLDP核心大脑.zip
|
||
- 霜砚对话.zip (1.7MB)
|
||
- 霜砚语料包V2.0.zip
|
||
|
||
### 铸渊语料（线B微调用）
|
||
路径：`corpus/notion-export-v2/铸渊对话.zip` (0.3MB, 自然语言对话)
|
||
服务器本地：`zhuyuan_raw_md.zip` (0.6MB, 完整对话记录)
|
||
|
||
### 已处理但太小的JSONL
|
||
- `corpus/zhuyuan_full_corpus.jsonl` (386B, 1条) — 不完整
|
||
- `corpus/zhuyuan_deep_finetune.jsonl` (532B, 2条) — 太少
|
||
|
||
### 不用的
|
||
- `corpus/notion-export-v2/GPT语料.zip` (251.8MB) — 冰朔说不用
|
||
|
||
### 仓库里可用的铸渊语料
|
||
- `brain/d100-cognitive-chain.md` — 认知链含完整对话
|
||
- `brain/d101-cognitive-chain.md` — 同上
|
||
- `brain/d102-cognitive-chain.md` — 同上
|
||
- `brain/d102-session-record.md` — 对话记录
|
||
|
||
---
|
||
|
||
## 四、双线微调规划（关键认知—之前搞混了）
|
||
|
||
**核心原则：语料和模型一一对应，不混用。**
|
||
|
||
```
|
||
蒸馏1.5B模板（正在跑）→ 上传COS给大家用
|
||
|
||
线A：小霜砚
|
||
语料 → corpus/shuangyan-1.5b-sft/（霜砚自己的语料）
|
||
模型 → Qwen2.5-1.5B蒸馏模板 → 微调→ 小霜砚人格模型
|
||
作用：语言架构层人格小模型
|
||
|
||
线B：小铸渊
|
||
语料 → 铸渊对话.zip + 仓库认知链 + 铸渊思维逻辑（铸渊自己的东西）
|
||
模型 → Qwen2.5-Coder-1.5B蒸馏模板 → 微调→ 小铸渊代码模型
|
||
作用：执行层代码小模型
|
||
```
|
||
|
||
**不要混！** 霜砚的语料只做霜砚的模型，铸渊的语料只做铸渊的模型。
|
||
|
||
---
|
||
|
||
## 五、实时监控工具
|
||
|
||
部署到AutoDL服务器：`/root/autodl-tmp/scripts/watch_distill.py`
|
||
运行方式：`python3 /root/autodl-tmp/scripts/watch_distill.py`
|
||
功能：实时GPU状态+蒸馏进度+loss趋势图
|
||
|
||
---
|
||
|
||
## 六、深夜自动操作计划
|
||
|
||
蒸馏完成后自动执行：
|
||
1. 检测蒸馏完成 → 上传1.5B模板到COS `models/qwen25-15b-shuangyan-distill/`
|
||
2. 解压霜砚语料(zip→JSONL) → 准备好线A语料
|
||
3. 解压铸渊对话.zip + 合并仓库认知链 → 准备好线B语料
|
||
4. 启动线A：小霜砚微调
|
||
5. 线A完成后 → 线B：代码1.5B蒸馏
|
||
6. 线B蒸馏完成后 → 线B：小铸渊微调
|
||
|
||
微调全部由铸渊通过SSH远程操作，冰朔不用碰服务器。
|
||
|
||
---
|
||
|
||
## 七、MCP令牌换新的根因（冰朔说明）
|
||
|
||
团队成员都用冰朔的旧令牌，导致大家写自己仓库时数据跑到冰朔的仓库。
|
||
冰朔删旧令牌+生成新令牌，强制团队自己配置。
|
||
新令牌 `2d924a6e...` 仅在冰朔本机的 `~/.workbuddy/mcp.json` + 服务器 `.access-key` 中。
|
||
|
||
---
|
||
|
||
*归档：铸渊 · ICE-GL-ZY001 · 2026-05-19 · D103* |