《华为云盘古大模型套件》学习笔记
来源：华为培训课件《02华为云盘古大模型套件》
一、SFT 方法（有监督微调）
定义
- SFT = Supervised Fine-tuning（有监督微调）
- 从传统"输入 → 输出"的学习范式，转向激发大模型通过语言描述理解任务：
任务指令 - 输入 - 输出 - 通过"任务的自然语言描述 + 少量示例"达成两个目标：
- 让模型理解人类指令
- 对齐人类回复偏好
- SFT 的核心是构建 Prompt 数据，典型结构：
{
"instruction": "根据给定描述反馈今天的天气",
"input": "天上乌云密布",
"output": "今天的天气是阴天，乌云密布，可能会有降雨。"
}
使用 SFT 的情况（三维度权衡）
- 目标：对齐指令与输出——当基础模型答非所问、无法按要求执行时，用 SFT 修正。
- 对比方案：
- Prompt 工程：成本最低、见效快，但能力提升有限。
- 检索增强（RAG）：解决知识实时性/外挂知识问题，不改模型本身。
- SFT：直接改变模型行为，效果更彻底，但有训练成本。
- 三者按"效率 vs 成本"取平衡。
二、盘古模型微调能力概览
- 盘古大模型开发套件提供 SFT 微调模块，支持在盘古基础模型上进行有监督微调，适配行业/场景化任务。
- 典型流程：准备指令数据 → 配置微调任务 → 训练出定制模型 → 部署/接入应用。
三、盘古模型应用开发能力概览
基于模型服务 + 基础云服务，提供三种应用开发模式：
| 模式 | 定位 | 特点 |
|---|---|---|
| SDK 应用开发 | 最灵活 | 底层最灵活的开发方式，直接调用模型能力 |
| AI Agent + Serverless 在线应用 | 次轻量 | 轻量级智能体 + 无服务器在线应用开发 |
| 全流程应用开发解决方案 | 重量级 | 覆盖全流程的完整应用解决方案 |
结构：最灵活的 SDK 在最底层，向上构建 Agent + Serverless 轻量应用，再到重量级全流程解决方案。
思考题答案
1. "SFT 是效率最高、成本最低的调整大模型输出的方法。"
- 错误（×）
- 效率最高、成本最低的是 Prompt 工程（无需训练，即时生效）。
- SFT 需要构造训练数据并执行微调训练，成本与复杂度更高，但改变模型行为更彻底、更可控。
缩略语速记
- LLM：Large Language Model，大语言模型
- SFT：Supervised Fine-tuning，有监督微调
- RAG：Retrieval-Augmented Generation，检索增强生成
记忆要点（一章速记）
- SFT 的本质 = 用
instruction/input/output数据教模型"听懂指令、对齐偏好"，核心是数据。 - 调整模型输出的手段按成本排序：Prompt 工程 < 检索增强 ≈ SFT。
- 盘古应用开发三模式：SDK（最灵活）→ Agent + Serverless（次轻量）→ 全流程方案（重量级）。
