langchain - 2

36 阅读1分钟

架构

讲了一大堆,但不要深究,主要以项目为主。

准备工作

python

大语言模型基础

安装

python 3.10以上

写代码

import langchain

print(langchain.__version__) #0.3.25
import langchain
import openai

print(langchain.__version__) #0.3.25
print(openai.__version__)
import langchain
import openai

print(langchain.__version__) #0.3.25
print(openai.__version__)
print(sys..version)

image.png

image.png

大模型应用开发 rag + agent

大模型知识冻结。如果是2024年的知识大模型,问它2025年的知识,它是不会的。

大模型幻觉:不懂装懂,它可能缺乏这方面的知识,但是它有一种幻觉觉得它懂,于是就乱答。

rag

rag就是为了解决知识冻结和幻觉的问题的。

image.png

rag: retrieval augmented generation (检索增强生成)

image.png

image.png

agent

image.png

agent = llm + memory + tools + planning + action

4个场景

纯prompt

你说一句,它回一句。

image.png

function calling

image.png

rag

image.png

智能客服上用得比较频繁。

fine-tuning(精调或者微调)

image.png

怎么选

image.png

核心组件

提示词。

调模型。指定格式输出。

image.png

model i/o

image.png

chains

image.png

memory

agents

image.png

retrieval

image.png

callbacks

image.png

整合

image.png