Agent笔记

22 阅读1分钟

Agent

0.感性认知:从deepseek开始认识"大语言模型"

  • prompt:输入

  • context:上下文,当前会话/跨会话;大模型获取的信息量

  • memory:跨会话的长期信息

  • RAG:prompt编造事实,LLM可能编造答案。->AI幻觉。RAG:提供资料

  • tool calling:模型请求外部系统完成操作

  • LLM定义:估计token出现在token序列中的概率

    生成token流程:模型会一轮一轮地读取上下文,预测下一个token,放回上下文,再继续生成token

    怎么预测的:学习语言结构,token间的关系

  • token定义:模型处理内容的基本单位,一个词/一个词的部分/标点符号

  • 聊天机器人:LLM + 历史消息、搜索、文件、记忆

  • agent:LLM + 调用工具能力(MCP)+ 自主思考决策,选择行动,读取结果,推进任务能力。

    模型:处理信息+决策+调度;环境(基础设施):连接数据、工具;载体:框架,语言

1.AI,机器学习,深度学习,LLM