架构
讲了一大堆,但不要深究,主要以项目为主。
准备工作
python
大语言模型基础
安装
python 3.10以上
写代码
import langchain
print(langchain.__version__) #0.3.25
import langchain
import openai
print(langchain.__version__) #0.3.25
print(openai.__version__)
import langchain
import openai
print(langchain.__version__) #0.3.25
print(openai.__version__)
print(sys..version)
大模型应用开发 rag + agent
大模型知识冻结。如果是2024年的知识大模型,问它2025年的知识,它是不会的。
大模型幻觉:不懂装懂,它可能缺乏这方面的知识,但是它有一种幻觉觉得它懂,于是就乱答。
rag
rag就是为了解决知识冻结和幻觉的问题的。
rag: retrieval augmented generation (检索增强生成)
agent
agent = llm + memory + tools + planning + action
4个场景
纯prompt
你说一句,它回一句。
function calling
rag
智能客服上用得比较频繁。
fine-tuning(精调或者微调)
怎么选
核心组件
提示词。
调模型。指定格式输出。