16_one

LangSmith监控工具 LangSmith核心概念详解   大模型的行为往往存在不确定性，尤其在开发复杂的AI Agent应用程序时，过程中常包含众多子步骤。若希望掌握...

LangChain框架搭建RAG 加载模型 文档加载 文档切分 文档向量存储与检索 创建向量存储（Faiss向量数据库） 加载并创建检索器 基础RAG链构建 Agentic...

Agent 记忆管理 概述 核心要素 State (状态): 定义用来存储消息的结构（通常是 MessagesState） Checkpointer (检查点保存器): 负...

列表推导式解析 原始代码 步骤一 results是个列表 列表中的每个元素doc是一个对象 每个doc对象都有一个属性page_content 步骤二 遍历results中...

自定义tool工具使用 @too装饰器 概述 自动参数推断：基于函数签名自动生成工具的参数schema 简化配置：只需提供工具名称和描述即可快速创建 同步执行：默认支持同步...

不同角色Message 提示词模板 PromptTemplate partial_variables固定变量 ChatPromptTemplate LangChain Hu...

初始化模型 不同模型提供商提供自己的依赖包 设置密钥系统环境变量 2.DeepSeek DashScope 3.GLM Ollama Vllm (拓展) 统一入口 总结 R...

简单理解 load_dotenv() 形象形容 print(os.environ.get("API_KEY")...

云服务器准备 网络加速 安装驱动与CUDA 删除现有的CUDA包 删除之前的CUDA目录 清理apt源 重新安装CUDA 12.4 设置环境变量 重启系统 验证安装 安装D...

基础环境搭建 open-webui安装 ollama在线安装 2.1. 将模型下载地址改到数据盘 2.2. 启动ollama 3. 安装deepseek-r1:14b模型 ...

vllm离线部署-离线推理服务的大模型生命周期 vllm在线部署-服务器参数 vllm在线部署-服务启动参数 只需要关注--host 指定服务器的主机地址 和 --port...

部署vllm的要求 仅支持在linuxc操作系统 pyhon版本要求在3.8～3.12之间 部署操作流程 检查conda版本，若出现conda not found ,需要先...

AutoDL服务器选择 根据gpu服务器显存大小，对比下方图中。目前租用3080，显存10GB,可以选择1.5b，7b，8b；为了节省gpu服务器资源，以最小模型安装1.5...

AI 技术发展太快了，`AIGC、RAG、Agent、Function Call、MCP` 等等的各种热词层出不穷的。所以，咱们今天这篇文章，就一次性帮你把这些搞明白......

一起养成写作习惯！这是我参与「掘金日新计划 · 4 月更文挑战」的第13天，点击查看活动详情。 Mysql的事务隔离级别 Mysql有四种事务隔离级别，这四种隔离级别代表当...