yuzi

LangChain是一个基于大语言模型用于构建端到端语言模型应用的框架，它提供了一系列工具、套件和接口，让开发者使用语言模型来实现各种复杂的任务，如文本到图像的生成、文档问...

LangChain是一个框架，用于开发由LLM驱动的应用程序。可以简单认为是LLM领域的Spring，以及开源版的ChatGPT插件系统。...

我们小时候都玩过乐高积木。通过堆砌各种颜色和形状的积木，我们可以构建出城堡、飞机、甚至整个城市。现在，想象一下如果有一个数字世界的乐高，我们可以用这样的“积木”来构建智能程...

ChatGPT 是一个基于 GPT-3 模型的对话系统，它主要用于处理自然语言对话。通过训练模型来模拟人类的语言行为。本文给出了 ChatGPT 的详细注册及使用教程，称得...

1. 大模型大概有多大，模型文件有多大? 大模型也分为不同的规格，一般模型的规格会体现在模型的名称上，例如 LLaMA2-13b，13b 就是其模型参数量的大小，意思是 1...

1. 什么是 LLM Agent? LLM Agent 是一种人工智能系统，它利用大型语言模型 (LLM) 作为其核心计算引擎，展示文本生成之外的功能，包括进行对话、完成任...

1. 预训练模型表现影响因素有那些？ 模型表现强依赖于模型规模(模型参数量 N、训练 Token 数 D、训练总计算量 C)。 平滑幂定律：模型表现与三个因子均遵循幂定律，...

1. 什么是位置编码？ 位置编码分为绝对位置编码和相对位置编码，绝对位置编码就是直接按照函数公式或者可学习参数得到每个 token 的位置编码加到 token 的输入表征上...

1. Byte-Pair Encoding(BPE) 如何构建词典？ 设定最大subwords个数。 将所有单词拆分为单个字符，并且在最后添加一个停止符，同时标记处该单词出...

1. 为什么需要构建中文 tokenization？ 2. 如何对原始数据预处理？ 3. 如何构建中文的词库？ 目前比较主流的是使用 sentencepiece 来训练中文...

1. 为什么需要进行继续预训练？ 我们新增加了一些中文词汇到词表中，但是这些词汇是没有得到训练的，因此在进行指令微调之前我们要进行预训练。预训练的方式一般都是相同的，简单来...

1. Layer Norm 的计算公式是怎样的，如何使用代码实现？ 其中 μ 为 x 的均值，σ 为 x 的方差，γ 和 β 是可训练的模型参数，γ 是缩放参数，新分布的方...

1. 对模型进行指令微调需要注意什么？ 在选择好需要微调的一个大语言模型之后。比如chatglm、llama、bloom等，要想使用它，得了解三个方面：输入数据的格式、to...

1. 当前优化模型最主要技术手段有哪些？ 当前优化模型最主要技术手段概括来说有以下三个层面： 算法层面：蒸馏、量化 软件层面：计算图优化、模型编译 硬件层面：FP8（NVI...

1. 介绍一下 FFN 块？ FFN（Feed-Forward Network）块是 Transformer 模型中的一个重要组成部分，用于对输入数据进行非线性变换。它由两...

1. 传统 Attention 存在哪些问题？ 传统的 Attention 机制忽略了源端或目标端句子中词与词之间的依赖关系。 传统的 Attention 机制过度依赖 E...

1. 什么是大模型幻觉（Hallucination）？ 大语言模型的模型幻觉问题是指其可能生成看似合理但实际上不准确或不符合事实的内容。处理大语言模型的模型幻觉问题需要采取...