superluckyhui

LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发 1. Ollama 部署的本地模型(🔺) Ollam...

引言 从本节课开始，我们将实践市面上常见的几个智能体（Agent）平台。2023年是AI技术的爆发元年，而2024年则见证了更多AI应用平台的崛起。这些平台通常提供简洁直观...

Llama 3.1 发布了！今天我们迎来了 Llama 家族的新成员 Llama 3.1 进入 Hugging Face 平台。我们很高兴与 Meta 合作，确保在 Hug...

简述 我们将一份长文本输入到LLM的时候，有时候会出现内容过长等问题，最有效的策略是将长文本进行分割。这个过程英文被称为splitting 或者 chunking。chun...

最近在研究如何将大语言模型结合本地知识库进行问答，虽然网上已经有很多教程，但大部分都是基于LangChain进行文本分割，然后调用模型向量化的API。这种方式的确很简单，但...

1. 什么是 LangChain? LangChain 是围绕 LLMs（大语言模型）建立的一个框架，其自身并不开发 LLMs，它的核心理念是为各种 LLMs 实现通用的接...

大语言模型（LLMs）微调 1. 如果想要在某个模型基础上做全参数微调，究竟需要多少显存？ 这个问题首先需要了解 BF16 和 FP16 ， BF16 是对 FP32 单精...

大语言模型（LLMs）进阶 1. 什么是 LLMs 复读机问题？ LLMs复读机问题指的是模型倾向于不适当地复制用户输入的文本或者在回复中重复使用相同的句式和短语。这种倾向...

本作者推出全新系列《深入浅出LLM》专栏，分为基础篇、进阶篇、实战篇等，本文为基础篇具体章节如导图所示，分别从大模型模型概念、经典模型、创新点、微调、分布式训练、数据集、R...

1.基础介绍 Langchain-Chatchat一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行...

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。...

大模型训练中的优化策略简述，包括数据并行、模型并行、ZeRO。首先分析显存占用，然后分析这些操作的原理。...

本文作者绘制了一幅涵盖大语言模型（LLMs）及其交互方式抽象框架的图谱，并提出了两种思路体系，帮助理解和分类大语言模型抽象的多种方法与理念。 引言 大语言模型（LLMs）及...

大家好，我是拭心。 前段时间组里有岗位招人，花了些时间面试，趁着周末把过程中的感悟和槽点总结成文和大家讲讲。 简历书写和自我介绍 今年的竞争很激烈：找工作的人数量比去年多、...

GPT4 仍然是截止目前最牛的 AIGC 工具，但是订阅它的费用（20刀/月）也属实有点贵。 羊毛党誓不为奴，打开格局，今天带来 7 个 GPT4 免费的平替。 来看看“如...