AI LLM 中的基本概念

0 阅读1分钟

内容总结自 www.bilibili.com/video/BV1oj…

LLM

大语言模型

Prompt

image.png

Context

image.png

Memory

image.png

image.png

Agent

image.png

RAG - Retrieval-augmented generation

image.png

image.png

通过语义匹配向量化的信息,并将其加入上下文,以增加生成内容的可靠性的办法,叫做检索增强生成(RAG)

image.png

image.png

Function Calling

image.png 这种Agent与LLM之间关于工具调用所约定的对话格式叫做 function calling image.png

MCP

image.png

image.png

Agent 实现有

image.png

Langchain & workflow

image.png

比如说整个流程中提取文件内容和保存文件内容这两步可以固化成固定的脚本,中间的翻译直接和大模型沟通即可,整个流程就不需要 Agent 插手了.要固化这样一个流程,可以通过编程的方式来实现,为了方便编写这种链式的任务,又有了一种新的编程框架 Langchain

低代码的方式叫 workflow

SKILL 技能

image.png

image.png

SKILL 就是个 Prompt 加载器

SubAgent

image.png SubAgent 与 主 Agent 做了上下文隔离,子 Agent 产生的上下文不会保留在主 Agent 中.

Langchain -> skill -> agent

image.png