# D104 铸渊训练重做 · 全参数SFT流水线 · 2026-05-19

> 同步至：代码仓库 brain/[d104-complete-record.md](http://d104-complete-record.md)
> 

> 执行体：铸渊（ICE-GL-ZY001）
> 

## 📋 今日摘要

D103（今天0:00~12:30）蒸馏全跑完但 **训练数据有重大缺陷** → 全废

D104（15:41~16:47）冰朔纠正 → 语料重做 → 训练重启

## ❌ D103 问题复盘

- sft.jsonl（1.9GB）前300KB全是同一条AGE对话重复
- 全参数SFT基于有缺陷数据 → 母模型和代码模型全废
- 蒸馏1.5B也基于有缺陷教师 → 整条流水线需要重来

## ✅ D104 修复

### 1. 新COS存储桶 `bingshuo-1317346199`

| 路径 | 内容 | 条数 |
| --- | --- | --- |
| `bingshuo-7b-sft/sft.jsonl` | GPT导出的冰朔↔系统对话 | 31,561条 / 96MB |
| `shuangyan-1.5b-sft/sft.jsonl` | 霜砚对话+HLDP+核心大脑等 | 698条 / 1.2MB |
| `zhuyuan-1.5b-sft/sft.jsonl` | 铸渊对话 | 385条 / 0.6MB |

**三份语料合并后：32,642条对话，97.7MB**

### 2. 语料处理规范

- ✅ 纯自然对话格式（user/assistant）
- ✅ 不加任何提示词（防止语料污染人格体）
- ✅ 脱敏：IP/密码/AKID/COS-KEY/TOKEN全部替换
- ✅ 正确解析GPT导出的mapping树结构

### 3. 全参数SFT训练

硬件：AutoDL · RTX PRO 6000 Blackwell 96GB

模型：

- 母模型：Qwen/Qwen2.5-7B
- 代码模型：Qwen/Qwen2.5-Coder-7B

流程：

1. 两个模型并行下载中（约30分钟）
2. 母模型全参数SFT → 3 epoch → 预计10-12小时
3. 上传母模型到COS `models/qwen25-7b-sft/final`
4. 代码模型全参数SFT → 自动启动
5. 上传代码模型到COS `models/qwen25-coder-7b-sft/final`

### 4. Forgejo API直连打通

不再受MCP代理的SHA参数限制。已用Forgejo REST API直接更新6个大脑文件。

## 🔧 待完成（训练后）

- [ ]  母模型→1.5B蒸馏（Track1）
- [ ]  代码模型→1.5B蒸馏（Track2）
- [ ]  霜砚微调（shuangyan-1.5b-sft语料）
- [ ]  铸渊微调（zhuyuan-1.5b-sft语料）
- [ ]  部署到六台服务器

## 🔗 关联链接

- 代码仓库：[https://guanghulab.com/code/bingshuo/guanghulab](https://guanghulab.com/code/bingshuo/guanghulab)
- COS桶：`bingshuo-1317346199`（腾讯云广州）
- 训练日志：`tail -f /root/autodl-tmp/train_mother.log`
- Forgejo API：`https://guanghulab.com/code/api/v1/`

---

*铸渊 · ICE-GL-ZY001 · 2026-05-19 17:22*

---

## 📡 状态更新 · 17:30 CST

### 当前进度

| 项目 | 状态 |
| --- | --- |
| **GPU服务器** | ✅ 在线 · RTX PRO 6000 Blackwell 96GB · 空闲 |
| **Qwen2.5-7B 母模型下载** | ✅ **完成**（4分片，14.8GB） |
| **Qwen2.5-Coder-7B 代码模型下载** | ⏳ **~90%+**（预计30-40分钟完成） |
| **训练数据** | ✅ 32,642条，all_sft.jsonl 就绪 |
| **auto_train_[v3.py](http://v3.py) 流水线** | ✅ **已启动**，等待代码模型下载完成后自动开始训练 |

### 自动流水线流程

1. ⏳ 等待代码模型下载完
2. ▶️ 母模型全参数SFT（3 epoch, BS=1, GA=8, LR=2e-5, BF16）
3. 📤 上传COS → models/qwen25-7b-sft/final
4. ▶️ 代码模型全参数SFT（自动生成脚本）
5. 📤 上传COS → models/qwen25-coder-7b-sft/final

### 监控命令

```bash
# 看流水线日志
tail -f /root/autodl-tmp/auto_train_v3.log

# 看训练日志（母模型训练开始后）
tail -f /root/autodl-tmp/train_mother.log
```

*铸渊 · ICE-GL-ZY001 · 2026-05-19 17:30*