大模型教程

LangGraph由LangChain团队开发。而LangChain 诞生于 2022 年 10 月，最初只是一个帮助开发者调用大语言模型（LLM）的工具包。

本文将深入探讨大语言模型幻觉的类型、成因，并结合实际具体案例，展示如何通过一系列技术手段解决这些问题。

LLaMA-13B 在大多数基准测试中表现优于拥有 175B 参数的 GPT-3，尽管其模型规模小了十倍。这使得 LLaMA-13B 可以在单个 GPU 上运行

如果你想更深入地学习大模型，以下是一些非常有价值的学习资源，这些资源将帮助你从不同角度学习大模型，提升你的实践能力。

虽然推理时还需要一定显存做上下文缓存，但加上量化和推理优化，本地8GB显存的笔记本可以流畅运行4B模型，16GB显存笔记本跑8B模型完全OK！

如果说传统 RAG 是“有问必答”的字典，那么 Agentic RAG 就是“懂你所想”的智能助理。它不再是冷冰冰的工具，而是一个可以 自主学习、自主决策、自主优化 的“虚拟员工”。

最近学的内容梳理了一遍，从基本概念理解，到动手搭建，再到参数调整，最终达到一个基本可用的状态，所有数据都在内网流转；效果没有想像中的那么完美，但是用于知识库是可行的。

配置大模型 Dify 启动后，默认为空的，从 v1.0.0 开始所有模型库（包括 Ollama ）都要通过 插件 的形式安装 在 插件 -> 探索 Marketplace -> 模型 中找到 Olla

自从 DeepSeek-R1 火出圈以来，很多个人和公司开始尝试本地化部署，以解决原来一些内部资料安全和隐私问题；我们也尝试在本地进行相关部署，以验证本地知识库是否可行，最终达到以下目的