AI_Echoes

大模型领域包含许多专业术语，以下是一些关键术语的解释： 人工智能（AI）： 是指使计算机系统能够模拟人类智能行为，以执行任务、解决问题和学习的科学和技术。 大型语言模型（LLM）： 深度学习的应用之一

一、什么是大模型幻觉？ 在语言模型的背景下，幻觉指的是一本正经的胡说八道：看似流畅自然的表述，实则不符合事实或者是错误的。 二、为什么LLM会产生幻觉？ 有一些研究也在致力于分析幻觉出现的不同原因，已

1 Byte-Pair Encoding(BPE)  如何构建词典？ 准备足够的训练语料;以及期望的词表大小； 将单词拆分为字符粒度(字粒度)，并在末尾添加后缀“”，统计单词频率 合并方式:统计每一个

增量预训练（Pretrain）样本拼接篇 一、Pretrain阶段，为什么需要拼接拼接？ 二、有哪些 拼接方式？ 2.1 拼接方式一：Random Concatenate 2.2 拼接方式二：Rand

当前优化模型最主要技术手段有哪些？ 算法层面：蒸馏、量化 软件层面：计算图优化、模型编译 硬件层面：FP8（NVIDIA H系列GPU开始支持FP8，兼有fp16的稳定性和int8的速度） 推理加速框

一、大语言模型RLHF中的PPO主要分哪些步骤？ 二、举例描述一下 大语言模型的RLHF？ 三、大语言模型RLHF 采样篇 什么是 PPO 中 采样过程？ 介绍一下 PPO 中 采样策略？ PPO 中

多模态常见面试 一、最近关注的论文，多模态视觉大模型(CLIP,DALLE)？ 二、blip2的架构，优势和之前多模态模型的区别？ 三、多模态融合后，怎样知道最终结果受哪种模态影响更大？ 四、多模态中

一、为什么需要进行pdf解析？ 最近在探索ChatPDF和ChatDoc等方案的思路，也就是用LLM实现文档助手。在此记录一些难题和解决方案，首 先讲解主要思想，其次以问题+回答的形式展开。 二、为什

为什么需要 AMP混合精度训练？ PyTorch 1.6版本今天发布了，带来的最大更新就是自动混合精度。release说明的标题是： Stable release of automatic mixed