附录 C+D+E 参数速查表 · 术语表 · 中文模型 API 上手

89 阅读13分钟

本篇是《AI Agent 实战:从设计模式到生产落地》的附录 C + D + E 合集:参数速查表 + 术语表 + 中文模型 API 快速上手,建议收藏当手册用。


附录 C:参数速查表

本附录是第 24 章《参数体系与调优》的三表合一速查版(模型参数 / Agent 引擎参数 / 企业级配置参数)。完整讲解见第 24 章正文与《参数调优速查表-第24章样章.md》。 使用提示:表中数值为经验基线,上线前以各模型最新文档为准,并在自有评测集上验证。

C.1 模型调用常用参数

参数作用范围默认调大 →调小 →注意
temperature输出随机性0~21.0更发散/易幻觉更确定/可复现与 top_p 二选一
top_p核采样截断0~11.0词汇池更大更聚焦与 temperature 互斥
top_k前 K 候选1~数百视模型更多候选更保守OpenAI 系不支持
max_tokens最大输出长度1~上限视模型更长更省/更快企业级必须设置
stop停止序列数组空——结构化输出收尾
frequency_penalty频率惩罚-2~20抑制重复更易重复代码/JSON 用 0
presence_penalty话题惩罚-2~20新话题守话题客服可 +0.3~0.6
seed随机种子整数无——不保证完全复现
stream流式boolfalse——交互开/后台关
response_format输出格式text/jsontext——首选 json_schema

C.2 按任务类型的推荐基线

任务典型场景temperaturetop_p说明
抽取/结构化实体抽取、JSON0~0.20.1~0.3配 json_schema
问答/知识库RAG、客服0.3~0.50.5~0.9平衡忠实与自然
决策/规划计划、路由0~0.30.3~0.7可加 self-consistency
代码生成补全、工具参数0.1~0.30.5~0.9工具调用 ≈0
创意写作文案、故事0.7~1.00.9~1.0需要多样性
翻译/改写互译、润色0.3~0.50.7~0.9忠实度优先
总结/摘要长文总结0.2~0.40.7~0.9防漏关键信息
多步推理数学、逻辑0~0.20.3~0.7配合 CoT/ReAct

C.3 中文模型参数差异对照

能力DeepSeek-V3DeepSeek-R1Qwen豆包混元GPT/o 系
temperature✅⚠️ 建议不调✅✅✅✅
top_p✅⚠️✅✅✅✅
top_k✅✅✅✅⚠️❌
seed⚠️⚠️✅✅⚠️✅ beta
response_format✅ json⚠️✅✅ json✅✅ schema
推理输出思维链reasoning_content可配思考可配思考⚠️o 系 reasoning
上下文(约)128K128K32K~1M128K~256K256K~1M128K~1M

跨模型迁移 3 铁律:① 推理模型不调温度/penalty;② top_k 迁到 OpenAI 系前必须去掉;③ json 输出优先 json_schema。

C.4 Agent 引擎参数

参数含义推荐基线调优方向
max_iterations最大循环轮数简单 35 / 多步 810 / 复杂 15~20卡死调小;未完成查根因
max_tool_calls单轮工具调用3~8频繁失败检查工具质量
tool_choice工具选择auto/required/none流水线 required;问答 none
parallel_tool_calls工具并行true有依赖 false;独立 true
工具重试失败重试2~3 次 + 1s/2s/4s 退避过多加熔断
单工具超时单次调用超时5~30s 按类型外部 API 10s+,本地 5s
端到端超时任务整体30120s / 复杂 510min超出降级返回部分
上下文分配系统/历史/工具/输出系统≤10%、工具≤20%、输出留 30%溢出压缩或转 RAG
记忆保留短期记忆轮数8~12 轮频繁遗忘提炼摘要
子 Agent 数多智能体并发3~5(单任务)过多通信开销大
聚合等待Fan-in 等待2~5s 或最长子任务 80%尾部敏感缩短

C.5 企业级配置清单(A-G 七类速查)

⚠️ = 强烈建议必须配置。完整版含每项的风险评估与适用场景,见第 24 章 24.4。

A. 容量与限流

#配置项推荐值
A1 ⚠️QPS 上限配额 60%~70%
A2 ⚠️并发上限连接池 + 信号量
A3排队策略令牌桶 + 队列 ≤1000
A4请求优先级关键任务插队
A5按租户配额QPS/日预算

B. 弹性与降级

#配置项推荐值
B1 ⚠️熔断阈值连续失败≥5 / 错误率≥30%(10s)
B2 ⚠️降级响应兜底话术/缓存/简化流程
B3 ⚠️备用模型 failover主失败切备选
B4慢启动恢复半开探测渐进放量

C. 缓存策略

#配置项推荐值
C1结果缓存相同输入 TTL 5~60min
C2语义缓存相似度≥0.95
C3 ⚠️Prompt 缓存固定系统提示开 KV Cache
C4会话缓存Redis 存会话状态
C5缓存失效数据变更主动失效

D. 稳定性与超时

#配置项推荐值
D1 ⚠️连接超时5~10s
D2 ⚠️首 Token 超时10~30s
D3 ⚠️总时长超时30s~5min 按任务
D4重试策略1s/2s/4s 退避+抖动 ≤3 次
D5幂等键idempotency-key
D6任务队列长任务异步化

E. 安全参数

#配置项推荐值
E1 ⚠️内容审核出入双向
E2 ⚠️提示注入检测工具输入/输出双侧
E3 ⚠️PII 脱敏正则+模型识别
E4工具白名单仅暴露必需
E5输出过滤敏感词/URL 拦截
E6角色权限 RBAC工具调用鉴权

F. 可观测性

#配置项推荐值
F1 ⚠️全链路追踪每步 trace
F2采样率默认 100%,高流量 10%
F3 ⚠️Token 计量输入/输出/缓存分计
F4告警阈值错误率>5% / P95>3s / 成本日增>50%
F5质量指标人工抽评 + LLM-as-Judge
F6会话回放关键会话存储

G. 配置管理

#配置项推荐值
G1 ⚠️配置中心Apollo/Nacos/自建
G2 ⚠️环境隔离dev/staging/prod 分离
G3灰度参数按比例/租户
G4版本化变更留痕可回滚
G5预算封顶日/月 Token 自动熔断

C.6 调优决策树(快速索引)

幻觉/编造     → temperature↓ + RAG 约束 + json_schema + Judge 抽评
重复/复读     → frequency_penalty↑ (0→0.5~1.0)
上下文溢出    → 压缩历史 + 记忆条数↓ + 超长转 RAG
Agent 卡死    → max_iterations↓ + trace + 完成判断步骤
工具参数乱填  → temperature→0 + 严格 Schema + 结果校验
成本爆炸      → max_tokens 上限 + Prompt 缓存 + 小模型路由
响应太慢      → stream + max_tokens↓ + 并行化 + 更快模型

C.7 调优五步法

[1 基线建立] 固定评测集(≥50 条)+ 指标基线
[2 单因素]   一次只改 1 个参数,跑全量评测集
[3 组合]     敏感参数 2~3 维扫描(网格/贝叶斯)
[4 回归]     独立验证集确认无退化
[5 灰度]     10% → 观察 → 全量(24~48h)

调参铁律:一次只改一个变量;所有变更记录进实验模板;上线前过评测集回归(第 20 章)。


附录 D:术语表

本书核心术语速查,按主题分组。括注内为首次详述章节。

D.1 基础概念

术语全称/英文一句话解释章节
LLMLarge Language Model大语言模型:理解/推理/生成的"大脑"2
Token—模型处理文本的最小单位(约 1 汉字 ≈ 1~2 token)3
上下文窗口Context Window模型单次能"同时看到"的最大 token 数3
注意力机制Attention模型处理某词时"看向"上下文相关词的能力2
预训练Pre-training大规模文本上预测下一个词,获得语言知识2
SFTSupervised Fine-Tuning指令微调:让模型"会听话"2
RLHFRLHF人类反馈强化学习:让模型"会做对"2
KV 缓存KV Cache缓存已处理上下文,加速重复前缀推理2
幻觉Hallucination模型编造不存在的知识/事实13、17
提示注入Prompt Injection恶意指令混入输入,诱导模型非预期行为22

D.2 Agent 核心

术语英文一句话解释章节
AgentAI AgentLLM + 工具 + 自主循环的智能体1、6
Agent Loop—思考→行动→观察的循环引擎6
Tool CallingFunction Calling模型输出结构化"函数调用意图"5
工具Tool模型可调用的外部函数/API14
Skill—提示词+工具+流程的可复用封装19
MCPModel Context Protocol工具接入的标准化协议7
RAGRetrieval-Augmented Generation检索增强生成:带资料回答问题8
Harness—质量与安全保障框架20
Guardrail—输入/输出侧的护栏17
Sub-Agent—作为"工具"临时启用的子智能体16
Supervisor—多智能体的主管(拆解/派活/汇总)16

D.3 设计模式(第 IV 部分)

术语英文一句话解释章节
提示链Prompt Chaining有序子任务流水线10
路由Routing按输入分发到不同处理分支11
并行化Parallelization独立子任务同时执行后聚合12
反思Reflection生成后自我检查与修正13
工具增强Tool Augmentation用外部工具扩展模型能力14
规划Planning先出计划再执行(Plan-and-Execute)15
ReActReason + Act思考行动交错的单循环范式15
多智能体Multi-Agent多个角色 Agent 协作16
自检Self-check输出交付前的分层校验17
学习Learning从反馈中持续改进18
Self-consistency—多次独立推理投票取多数4、12

D.4 推理与提示技术

术语英文一句话解释章节
CoTChain-of-Thought思维链:引导模型写出推理过程4
Few-shot—用少量示例校准模型输出4
Zero-shot—无示例直接提问4
JSON Schema—结构化输出的字段约束4
temperature—输出随机性参数24
top_p / top_k—采样截断参数24

D.5 工程与运维

术语英文一句话解释章节
评测集Eval Set标注好的测试问题集20
基线Baseline改动前的评测分数基准20
LLM-as-Judge—用模型当评测器17、20
灰度发布Canary Release小流量验证后全量20
可复现率—同一输入失败的可复现比例21
Trace—一次任务的全链路调用记录21
RBACRole-Based Access Control基于角色的权限控制22
沙箱Sandbox隔离代码执行环境22
熔断Circuit Breaker连续失败后停止调用24
指数退避Exponential Backoff重试间隔成倍增长24
PIIPersonally Identifiable Info个人身份信息(需脱敏)22
AAIF—AI 治理框架22

D.6 检索与记忆

术语英文一句话解释章节
分块Chunking长文本切块8
Embedding—文本向量化(语义数字表示)8
向量检索Vector Search按语义相似度检索8
混合检索Hybrid Search向量 + 关键词融合检索8
重排Rerank用 Cross-Encoder 精排检索结果8
RRFReciprocal Rank Fusion多路检索结果排名融合8
命中率Recall@K检索到正确资料的比率8
忠实度Faithfulness回答忠实于资料的程度8
长期记忆Long-term Memory跨会话持久化记忆9

D.7 快速查找索引

想找术语
模型答错/编造幻觉 / 反思 / 自检
模型不会调用工具Tool Calling / 工具增强
工具太多接入乱MCP
长文档处理RAG / 分块 / 重排
Agent 记不住上下文窗口 / 长期记忆
Agent 卡死Agent Loop / 停止条件 / 可复现率
多 Agent 混乱多智能体 / Supervisor / 上下文隔离
上线怕退化评测集 / 基线 / 灰度发布
被攻击提示注入 / Guardrail / 沙箱
太贵太慢temperature / 熔断 / 缓存 / 量化

附录 E:中文模型 API 快速上手

本附录给出 DeepSeek / Qwen / 豆包三大中文模型的 API 快速接入示例(OpenAI 兼容接口)。完整参数与选型见第 2、24 章。

E.1 通用约定(OpenAI 兼容)

三家主流中文模型均提供 OpenAI 兼容接口——只需改 base_url 和 api_key,代码可复用:

from openai import OpenAI

client = OpenAI(
    base_url="<各家的 base_url>",
    api_key="<你的 key>",
)

建议:代码里统一用 OpenAI SDK,把 base_url/key 放环境变量,换模型只改配置不动代码(第 2 章"协议先行"原则)。

E.2 DeepSeek(深度求索)

基本信息

项值
Base URLhttps://api.deepseek.com
对话模型deepseek-chat(V3)
推理模型deepseek-reasoner(R1)
兼容性OpenAI 兼容

基础调用

from openai import OpenAI

client = OpenAI(base_url="https://api.deepseek.com", api_key="<key>")

resp = client.chat.completions.create(
    model="deepseek-chat",
    messages=[
        {"role": "system", "content": "你是客服助手"},
        {"role": "user", "content": "我的订单到哪了?"},
    ],
    temperature=0.3,
    max_tokens=1000,
)
print(resp.choices[0].message.content)

推理模型调用(R1)

resp = client.chat.completions.create(
    model="deepseek-reasoner",
    messages=[{"role": "user", "content": "鸡兔同笼,头35脚94?"}],
    # 注意:推理模型不调 temperature(第24章表三)
)
print(resp.choices[0].message.content)        # 最终答案
# 推理过程在 reasoning_content(部分版本)
# print(resp.choices[0].message.reasoning_content)

结构化输出

resp = client.chat.completions.create(
    model="deepseek-chat",
    messages=[{"role": "user", "content": "抽取差评要点,输出 JSON"}],
    response_format={"type": "json_object"},
    temperature=0.1,
)

E.3 通义千问 Qwen(阿里)

基本信息

项值
Base URLhttps://dashscope.aliyuncs.com/compatible-mode/v1
对话模型qwen-plus / qwen-turbo(小模型)
开源系列Qwen2.5 / Qwen3(可私有化)
兼容性OpenAI 兼容

基础调用

from openai import OpenAI

client = OpenAI(
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    api_key="<dashscope key>",
)

resp = client.chat.completions.create(
    model="qwen-plus",
    messages=[{"role": "user", "content": "介绍一下 RAG"}],
    temperature=0.3,
)
print(resp.choices[0].message.content)

小模型路由(第 11 章模型路由)

def route_model(complexity):
    # 简单任务走 qwen-turbo(便宜快),复杂走 qwen-plus
    return "qwen-turbo" if complexity == "simple" else "qwen-plus"

长窗口(Qwen 大窗口版本)

resp = client.chat.completions.create(
    model="qwen-long",          # 或 qwen-max(视版本)
    messages=[{"role": "user", "content": long_doc}],   # 支持超长输入
    max_tokens=2000,
)

E.4 豆包 Doubao(字节)

基本信息

项值
平台火山方舟(Volcano Ark)
Base URLhttps://ark.cn-beijing.volces.com/api/v3
模型通过"推理接入点 ID"(endpoint id)调用
兼容性OpenAI 兼容

基础调用(通过接入点 ID)

from openai import OpenAI

client = OpenAI(
    base_url="https://ark.cn-beijing.volces.com/api/v3",
    api_key="<火山方舟 key>",
)

resp = client.chat.completions.create(
    model="ep-20260807-xxxxx",      # 推理接入点 ID(控制台创建)
    messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)

结构化输出

resp = client.chat.completions.create(
    model="ep-xxxxx",
    messages=[{"role": "user", "content": "输出 JSON"}],
    response_format={"type": "json_object"},
)

E.5 一键切换方案(配置驱动)

# config.py:模型配置统一管理
MODEL_CONFIG = {
    "deepseek": {"base_url": "https://api.deepseek.com", "model": "deepseek-chat"},
    "qwen":     {"base_url": "https://dashscope.aliyuncs.com/compatible-mode/v1",
                 "model": "qwen-plus"},
    "doubao":   {"base_url": "https://ark.cn-beijing.volces.com/api/v3",
                 "model": "ep-xxxxx"},
}

def get_client(provider="deepseek"):
    cfg = MODEL_CONFIG[provider]
    return OpenAI(base_url=cfg["base_url"], api_key=os.environ[f"{provider.upper()}_KEY"])

# 使用时
client = get_client("deepseek")    # 换模型 = 换一个字符串

迁移注意(第 24 章表三):

  • 推理模型(DeepSeek-R1)不调 temperature/penalty
  • top_k 参数部分模型不支持,迁移时检查
  • 各模型 JSON 输出支持度不同,用前验证 response_format

E.6 快速排错(API 接入常见问题)

现象原因解决
401 认证失败key 错误/未生效检查 key、确认环境变量加载
404 模型不存在模型名/接入点 ID 错误核对模型名(E.2-E.4 表格)
429 限流配额超限加退避重试(第 24 章 D4)
400 参数错误参数不支持检查 top_k 等(第 24 章表三)
超时网络/长上下文分层超时(第 24 章 D1-D3)