## 1 啥是注意力？ 人类观察事物，能快速判断一种事物，是因为大脑能很快把注意力放在事物最具辨识度的部分从而作出判断，而非从头到尾一览无遗观察一遍才能有判断。基于这样的观察实践，产生了注意力机制

机器学习里常见算法： 一些基本概念： 模型（Model）： 给定输入，输出预测。 损失函数（Loss）： 模型预测出来的结果，与真实的结果，怎么去计算他们的差别。 其值越小，代表模型预测结果越接

技术最初源于2020年Facebook的一篇论文——《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》。是的。

最近开始读ds的论文，为了方便巩固知识，记录一下。 总体来说，我想按照 DeepSeek V3 -> DeepSeekMath -> DeepSeek R1 路径来讲解

昨天老婆说公司用的一个AI大模型产品 按照Tokens 收费,问我Tokens是什么? 嗯... 给老婆科普一下 什么是 Tokens？ 在自然语言处理 (NLP) 和大语言模型（如 GPT 系列）中