AI_Echoes

目录 大模型 LLM 最全八股和答案1 1、目前 主流的开源模型体系 有哪些？4 2、prefix LM 和 causal LM 区别是什么？4 3、涌现能力是啥原因？5 4、大模型 LLM 的架构介

微调方法是啥？如何微调？ fine-tune，也叫全参微调，bert微调模型一直用的这种方法，全部参数权重参与更新以适配领域数据，效果好。 prompt-tune, 包括p-tuning、lora、p

大模型（ LLMs ） agent 一、什么是 大模型（LLMs）agent？ 二、大模型（LLMs）agent 有哪些部分组成？ 介绍一下 规划（planning）？ 拆解子目标和任务分解 如何进行

为什么大模型推理时显存涨的那么多还一直占着？ 大模型在gpu和cpu上推理速度如何？ 推理速度上，int8和fp16比起来怎么样？ 大模型有推理能力吗？ 大模型生成时的参数怎么设置？ 有哪些省内存的大

LLMs 训练数据 和 数据量 对比如何？LLMs 训练数据 和 数据量 对比如何？LLMs 训练数据 和 数据量 对比如何？LLMs 训练数据 和 数据量 对比如何？

大模型（LLMs）强化学习—— PPO 面 一、大语言模型RLHF中的PPO主要分哪些步骤？ 二、举例描述一下 大语言模型的RLHF？ 三、大语言模型RLHF 采样篇 3.1 什么是 PPO 中 采样

什么是 LoRA？ LoRA 的思路是什么？ LoRA 的特点是什么？ 简单描述一下 LoRA? 二、QLoRA篇 QLoRA 的思路是怎么样的？ QLoRA 的特点是什么？三、AdaLoRA篇 Ad

向量检索常见面试篇 一、向量检索库总结 1.1 Annoy 1.1.1 Annoy 介绍 1.1.2 Annoy 使用 1.2 Faiss 1.2.1 Faiss 介绍 1.2.2 Faiss 主要特

大模型（LLMs）RAG 版面分析——文本分块面 一、为什么需要对文本分块？ 二、能不能介绍一下常见的文本分块方法？ 2.1 一般的文本分块方法 2.2 正则拆分的文本分块方法 2.3 Spacy T