黑唐僧

复数：从数学基础到AI应用的全面指南 理解复数（Complex Number）的概念，不仅是学习数学的重要一步，它更是你深入理解现代计算机科学、信号处理乃至AI领域的一把钥...

ROUGE评估指标详解：文本生成任务的自动化评估利器 ROUGE（Recall-Oriented Understudy for Gisting Evaluation）是一套...

BLEU评估指标详解：机器翻译质量的自动化评估方法 BLEU（Bilingual Evaluation Understudy）是一种用于评估机器翻译文本质量的自动评估指标，...

深入理解n-gram：从理论基础到现代应用 理解n-gram能帮你把握自然语言处理（NLP）发展的一个关键脉络。下面这份详解，我将从它的核心思想讲起，梳理其发展历程，并说明...

引言 大语言模型的"涌现能力"是AI领域一个令人着迷的现象。简单来说，它指的是当模型的参数规模、数据量或计算量超过某个临界值时，其性能会突然出现质的飞跃，获得在更小规模模型...

Transformer位置编码器完整笔记 1. 背景介绍 1.1 为什么需要位置编码？ Transformer模型使用自注意力机制，但自注意力本身是位置无关的。这意味着： ...

Transformer缩放注意力机制：为什么除以√d_k是深度学习的精妙设计？ 引言：从面试问题到技术洞察 作为一名技术爱好者，我曾在面试中被问到："Transformer...

深度模型训练救星：Transformer-LayerNorm如何让Transformer从“难以训练”到“效果惊人”？...

Transformer双掩码机制解析：从原理到SOTA性能的基石 在自然语言处理领域，Transformer架构无疑是一场革命。从BERT到GPT，从机器翻译到ChatGP...

Transformer架构：手撸源码实践 1. 引言 Transformer架构自2017年在论文《Attention Is All You Need》中被提出以来，彻底改...

Word Embedding：让机器理解人类语言的数学魔法 前言：从符号到语义的跨越 在自然语言处理(NLP)的世界里，有一个核心挑战困扰了研究者们数十年：计算机如何才能真...

文本转向量的三种核心技术详解：从One-Hot到Word2Vec 在自然语言处理（NLP）领域，计算机无法直接理解人类语言的文本内容，需要将文本转换为数值向量才能进行处理。...

jieba分词详解：中文自然语言处理的基础工具 在自然语言处理（NLP）领域，分词是中文文本处理的第一步也是非常关键的一步。与英文等西方语言不同，中文词语之间没有明显的分隔...

激活函数详解 目录 名词解释 背景历史 作用意义 常见激活函数详解 Sigmoid函数 Tanh函数 ReLU函数 Softmax函数 激活函数对比 总结 名词解释 激活函...

参数初始化， 能解决哪些问题 1. 参数初始化， 是解决权重和参数的设定 2. 作用：1. 生成生成权重和 偏置矩阵， 防止梯度消失或者梯度爆炸， 打破对称性， 参数初始化...

损失函数 1. 分类损失函数 1）交叉熵损失函数， 2）二分类交叉熵损失函数 2. 回归损失函数 1）MAE平均绝对值损失函数。 2）MSE均方误差损失函数 3）Smoot...

大纲 张量的基础运算 张量的其他运算 张量的索引获取 张量的形状修改与维度提升 张量的数据合并与注意事项 张量的自动微分功能...

衔接深度学习之pytorch， 代码和内容已经完全翻过来了。 创建张量的方式， 有四大类别 一、基本创建类型 二、创建线性张量的方式 三、创建随机张量 四、创建0,1，定制...