余磬TuT

1. 什么是位置编码？ 位置编码分为绝对位置编码和相对位置编码，绝对位置编码就是直接按照函数公式或者可学习参数得到每个 token 的位置编码加到 token 的输入表征上...

1. 预训练模型表现影响因素有那些？ 模型表现强依赖于模型规模(模型参数量 N、训练 Token 数 D、训练总计算量 C)。 平滑幂定律：模型表现与三个因子均遵循幂定律，...

1. 什么是 LLM Agent? LLM Agent 是一种人工智能系统，它利用大型语言模型 (LLM) 作为其核心计算引擎，展示文本生成之外的功能，包括进行对话、完成任...

在进行数据采集时，经常会遇到被目标网站封禁IP的情况，这给爬虫系统带来了困扰。本文将介绍如何提升爬虫IP的时效，解决被封IP的难题，帮助您顺利进行数据采集，不再受限于IP封...

1. 大模型大概有多大，模型文件有多大? 大模型也分为不同的规格，一般模型的规格会体现在模型的名称上，例如 LLaMA2-13b，13b 就是其模型参数量的大小，意思是 1...

1. SFT（有监督微调）的数据集格式？ 指令数据一般为 json 格式，包含 Instruction、Input、Output 三个字段（可以为空），每行一条样本。 In...

1. 简单介绍强化学习 强化学习（Reinforcement learning）是一种机器学习技术，可以训练模型做出决策，以实现最佳结果。它模仿了人类为实现目标所采取的反复...

选择公司，就是在选自己未来的命运。 遇到一家好公司，你未来的职业道路，生活水平，工作热情，技术提升都是积极生长的。 但遇到一家烂公司，你未来的一年甚至几年，都将处在水深火热...

程序员一定要学会保护自己，对于高危的人肉运维，勇敢的说不！吾日三省吾身。1、这事能不能不干；2、这事能不能明天干；3、这事能不能推给别人干。...

1. 大模型怎么评测？ 自动评测和人工评测。这两种方法在评测语言模型和机器翻译等任务时起着重要的作用。自动评测方法基于计算机算法和自动生成的指标，能够快速且高效地评测模型的...

1. 为什么要增量预训练？ 预训练学知识，指令微调学格式，强化学习对齐人类偏好，所以要想大模型有领域知识，得增量预训练（靠指令微调记知识不靠谱，不是几十w条数据能做到的）。...

今天跟大家分享一下，从一名技术工程师（程序员）的角度，为什么要写专利以及如何去申请专利？ 专利的本质 首先就是要科普一下，并不是说一定要做出来的某个东西，才能够申请专利，和...

1. 为什么大模型推理时显存涨的那么多还一直占着？ 模型参数占用显存：大语言模型本身具有大量参数量，这些参数需要存储在显存中以供推理使用。不量化的情况下这部分显存占用和大模...

索引下推(Index Condition Pushdown，简称ICP)，是 MySQL5.6 版本提供的新特性，核心目标是减少回表查询次数，提高查询效率。...