董章鱼是个攻城狮

上一篇描述了 RGB 这种彩色图像表示，这一节我们再看另一种图像表示：YUV。 YUV 和 RGB 不同，区别主要在于颜色信息的存储和传输上。 YUV 是什么呢 YUV 表...

大家好啊，我是董章鱼。 最近发生了两件事让我重新开始审视 AI。 第一件事，是我花了大概3天的时间，写了一个文档管理程序，用来管理我多如牛毛的文档。 可以实现批量修改、复制...

在2、灰度与色彩的最后，给出了一个由彩色图片转成灰度图的示例，并且通过 color_image.mode获取了图片的格式：彩色图片获取到的格式为 RGBA，灰度图为 L。 ...

大家好啊，我是董章鱼。 上一篇文章1、图像和像素中说到：像素是计算机视觉任务中的原材料。 很多图像处理任务以像素的局部性为基础，在不同尺度下完成图像特征的提取。你可以这么理...

大家好啊，我是董章鱼。 第一个网络，就从玩烂的、作为各大AI芯片厂商性能标杆的Resnet50开始。 个人水平有限，文中如有错误，欢迎留言指正。 像素 要实现图像识别，最离...

大家好啊，我是董董灿。 昨天 DeepSeek 发布了一篇文章，介绍 DeepSeek AI 大模型的基本原理和训练相关的知识。 文章的内容写的比较通俗易懂，比较适合想“粗...

大家好啊，我是董董灿。 前段时间在星球弄了个“微调”的小专栏。但是因为一些事情耽误了，整体进度已经过半了，最近时间又充裕了，打算把微调的专栏再丰富完善，把这件事情搞完！ 本...

在基于 Transformer 架构的 AI 大模型中，注意力机制早已成为了必不可少的核心组件。 但是传统注意力机制在处理长序列数据时存在很多问题。 典型的就是计算复杂度过...

星球上一位球友提问——日常开发和使用 LLMs 的电脑配置是什么？如果想运行多个大模型，应该如何选配电脑的配置呢？ 我相信很多刚开始学习 AI 大模型的朋友都会有类似的困惑...

前面介绍了学习 Transformer 需要的预备基础知识，在介绍完基础知识后，又介绍了一些国内外比较优秀的大模型的使用方法，并且重点对 chatGLM 和 LLaMa 这...

将文字文本转换为词向量(word embedding）的过程中，一个非常著名的算法模型应该就是 Word2Vec 了。 相信大家或多或少都听说过，本节就来简单介绍一下 Wo...

经过前面的介绍，相信你搞懂了词嵌入向量所代表的是单词在高维空间的特征表示了。 在学习词嵌入向量的过程中，一个最著名的理解词嵌入向量在高维数学空间的例子，莫过于实现 quee...

在前面的文章中，大概花费了几节的篇幅，详细介绍了 token 以及词嵌入向量的概念。到这里，你应该可以理解了：在计算机的眼里，所有的文本首先都要经过分词转换为 token ...

上一节已经完成了 token 到词向量的转换。那么，使用转换后的词嵌入向量便可以表示 token 之间的语义了吗？便可以表示两个单词是否是近义词，是否是反义词了吗？ 是的...

上一节通过词汇表将 token 文本转换为数值，也就是转换为 token ID ，这之后计算机便可以进行下一步的操作了。 但是这里我抛出一个问题：计算机在进行运算时，可以基...

前面几节一直在介绍 token 相关的内容，相信你看到这里，对 token 肯定很了解了吧。如果对 token 本身还有其他疑问，可以在本文下留言。 本节开始，进入下一步骤...

预训练大模型在训练过程中，虽然学到了很多通用知识，但是很多时候，大模型本身并不能在专业领域表现得非常好。 比如你让 Qwen 模型回答“量子力学中的叠加态是什么”，它可能会...

在前面几节，你了解了 token 的概念以及对文本进行分词的大致过程后。 本节给出一个使用 GPT4 模型（当前 OpenAI 最强大的模型）拆分 token 并将拆分结果...

前面两节分别通过两个代码示例展示了模型将文本转换为 token 之后是什么样的，希望你可以对此有一个感性的认识。 本节来简要介绍一下将一个连续的文本转换为 token 序列...