这个岗位正在快速成形
2024年，"AI工程师"还是一个模糊的标签；到2026年，它已经是技术市场上最热门、最明确的岗位之一。
头部科技公司的AI工程师年薪中位数比同级软件工程师高30-50%，而且供给严重不足——不是因为岗位多，而是能真正做好这份工作的人太少。
这份短缺不是因为AI技术太难，而是因为：AI工程需要的技能栈横跨多个传统领域，而大多数工程师只在其中一个领域有积累。
本文是一份诚实的AI工程师成长路径图，告诉你每个阶段需要掌握什么、如何评估自己的位置、以及怎么高效地走到下一级。
AI工程师的四个成长阶段
第一阶段：AI调用工程师（0-1年）
核心特征：能调用AI API完成特定任务，理解基本概念
必须掌握的技能：
1. 大模型API的基本使用
# 最基础的能力：能正确调用API并处理响应
from openai import OpenAI
client = OpenAI()
# 同步调用
response = client.chat.completions.create(
model="gpt-4o",
messages=[{"role": "user", "content": "解释Python的GIL"}]
)
# 流式输出
stream = client.chat.completions.create(
model="gpt-4o",
messages=[{"role": "user", "content": "写一首诗"}],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
2. 基础Prompt工程
- 知道System Prompt vs User Message的区别
- 能写清晰的任务描述
- 会用Few-Shot给出示例
- 知道如何让模型输出JSON
3. 基础RAG实现
# 能用langchain或llama-index搭建基础RAG
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_chroma import Chroma
from langchain.chains import RetrievalQA
# 创建向量库
vectorstore = Chroma.from_documents(documents, OpenAIEmbeddings())
# 基础问答
qa = RetrievalQA.from_chain_type(
llm=ChatOpenAI(model="gpt-4o"),
retriever=vectorstore.as_retriever()
)
result = qa.invoke("公司的退款政策是什么？")
自我评估标准：能独立完成一个基础的AI功能（如文档问答、文案生成），能够调试常见错误（API限速、上下文超长等）。
第二阶段：AI功能工程师（1-2年）
核心特征：能构建可靠的AI功能并集成到生产系统
需要额外掌握的技能：
1. Function Calling与工具调用
# 能设计合理的工具接口，处理并行调用，实现错误恢复
tools = [
{
"type": "function",
"function": {
"name": "query_database",
"description": "查询订单数据库，获取订单详情",
"parameters": {
"type": "object",
"properties": {
"order_id": {"type": "string", "description": "订单ID"},
"fields": {
"type": "array",
"items": {"type": "string"},
"description": "需要返回的字段"
}
},
"required": ["order_id"]
}
}
}
]
2. 高级RAG技术
- 文档切分策略（固定大小 vs 语义切分 vs 层级切分）
- 混合检索（BM25 + 向量搜索）
- 重排序（Cross-Encoder Reranker）
- 查询扩展与改写
3. LLM应用评估
# 能建立评估管道，量化AI功能质量
from ragas import evaluate
from ragas.metrics import faithfulness, answer_relevancy, context_recall
# 评估RAG系统
results = evaluate(
dataset=test_dataset,
metrics=[faithfulness, answer_relevancy, context_recall]
)
print(results.to_pandas())
4. 成本与性能优化
- 知道何时用gpt-4o，何时用gpt-4o-mini
- 能实现Prompt缓存
- 能设计合理的Token预算
自我评估标准：能独立完成一个生产级AI功能，有评估指标，有监控，能做迭代优化。
第三阶段：AI系统工程师（2-4年）
核心特征：能设计完整的AI系统架构，处理规模化挑战
需要额外掌握的技能：
1. Agent系统设计
能从零设计并实现复杂的Agent系统：
- 多Agent协作（Supervisor模式、Peer模式）
- 状态管理与持久化（LangGraph）
- 工具调用安全（防Prompt Injection）
- Agent可观测性（轨迹追踪）
2. 模型微调
# 能做LoRA微调
from transformers import AutoModelForCausalLM
from peft import LoraConfig, get_peft_model, TaskType
model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2.5-7B")
lora_config = LoraConfig(
task_type=TaskType.CAUSAL_LM,
r=16, # LoRA rank
lora_alpha=32,
target_modules=["q_proj", "v_proj", "k_proj", "o_proj"],
lora_dropout=0.1,
bias="none"
)
model = get_peft_model(model, lora_config)
model.print_trainable_parameters()
# trainable params: 40,894,464 (2.48% of 1,649,242,112)
3. 推理系统部署
- vLLM/TGI部署与调优
- 量化方案选择（AWQ/GPTQ/FP8）
- Kubernetes上的弹性扩缩容
- 推理监控体系建设
4. 大规模向量系统
- 向量数据库选型（Qdrant/Weaviate/Milvus）
- 分片策略与索引优化
- 混合检索的工程实现
自我评估标准：能设计一个支持百万用户的AI系统，有完整的性能评估、安全边界、监控告警、成本估算。
第四阶段：AI架构师/技术负责人（4年+）
核心特征：技术决策者，能定义AI工程标准和最佳实践
标志性能力：
1. 系统级权衡决策
不只是"怎么做"，更是"为什么这么做"：
| 决策场景 | 需要权衡的维度 |
|---|---|
| 选模型 | 精度、成本、延迟、合规、可控性 |
| 微调vs提示 | 效果上限、维护成本、部署复杂度 |
| 自建vs托管推理 | 成本、安全性、运维能力 |
| RAG vs 长上下文 | 准确率、延迟、成本 |
2. AI工程标准制定
能为团队制定AI工程规范：
- Prompt版本管理规范
- 模型评估标准
- AI功能上线checklist
- 安全审查流程
3. 技术前瞻
能预判技术趋势并提前布局：
- 2025年押注推理模型，2026年提前规划o3集成
- 多模态能力的业务化时机判断
- 开源模型能力什么时候追上闭源
学习路径建议
阶段一到二（最关键的跨越）
这是从"会用"到"用好"的核心跨越：
推荐学习顺序：
1. 深刻理解一个AI框架（LangChain或LlamaIndex）
2. 动手构建一个完整的RAG系统（含评估）
3. 学习Function Calling，构建一个能调用真实API的Agent
4. 在真实项目中衡量AI功能的效果，形成评估习惯
资源推荐：
- 《Building LLM Powered Applications》
- LangChain官方文档（动手做每一个示例）
- DeepLearning.AI的短课程系列
阶段二到三（需要工程广度）
推荐学习顺序：
1. 学习一种向量数据库的生产级用法（Qdrant推荐）
2. 完整跑通一次LoRA微调，理解数据准备的坑
3. 部署一个vLLM服务，做性能压测
4. 读一篇完整的AI系统技术报告（如DoorDash、Airbnb的AI实践）
容易走弯路的误区
误区一：只学框架，不懂原理
很多人LangChain用得很熟，但问注意力机制就一问三不知。框架会变，原理不变。至少要理解Transformer的基本工作方式。
误区二：用最贵的模型掩盖工程问题
"换成GPT-4o就好了"——这是逃避工程问题的借口。真正的AI工程师知道在合适的场景用合适的模型。
误区三：只关注模型，忽略数据
70%的AI项目问题出在数据质量上，而不是模型能力。训练数据质量、RAG文档质量、评估集代表性——这些比模型选择更关键。
误区四：没有评估就迭代
凭感觉改Prompt，不知道改好了还是改差了，这是最低效的工作方式。先建立评估体系，再开始迭代。
总结
AI工程师不是"会用ChatGPT的程序员"，也不是"转型做NLP的算法工程师"。它是一个需要广度（工程）+ 深度（AI）+ 判断力（业务）的复合岗位。
成长的核心路径只有一条：在真实项目中解决真实问题。教程和课程能给你起点，但把AI系统真正跑在生产环境里、承受真实流量、解决真实bug——这才是让你真正进阶的经历。
现在入场，是好时机。
