自然语言处理

大家好，我是半虹，这篇文章来讲分词算法。所谓分词就是将文本段落分解成基本语言单位，这里的基本单位也可以称为词元。在上篇文章，我们主要从分词过程的角度出发，介绍了一些不同类型的分词算法。而本篇文章...

大家好，我是半虹，这篇文章来讲分词算法。分词是自然语言处理领域中的基础任务，是文本预处理的重要步骤。简单来说，就是将文本段落分解为基本语言单位，亦可称之为词元...

大家好，我是半虹，这篇文章来讲 GPT。GPT 本质上就是一个预训练语言模型，其用大规模无标注语料、以自回归的方式进行预训练。GPT 通过不断增加模型参数以及预训练语料规模进行更新迭代，并最终...

大家好，我是半虹，这篇文章来讲 BERT。从某种程度上来说，深度学习至关重要的一环就是表征学习，也就是学习如何得到数据的向量表示。对于自然语言领域，一个典型的场景是学习文本的向量表示，关于这一点...

大家好，我是半虹，这篇文章来讲 Transformer，想要获取更多相关文章，欢迎关注自然语言处理专栏。在之前的两篇文章中，我们介绍过序列到序列模型以及注意力机制在序列到序列模型中的应用...

大家好，我是半虹，这篇文章来讲注意力机制在序列到序列模型中的应用。在上一篇文章中，我们介绍了序列到序列模型...

大家好，我是半虹，这篇文章来讲序列到序列模型。本文写作思路如下：从循环神经网络的应用场景引入，介绍循环神经网络作为编码器和解码器使用，最后是序列到序列模型。

大家好，我是半虹，这篇文章来讲门控循环单元。文章行文思路如下：首先通过长短期记忆网络引出为什么需要门控循环单元，然后介绍门控循环单元的核心思想与运作方式，最后通过简洁的代码深入理解门控循环单元...

大家好，我是半虹，这篇文章来讲长短期记忆网络。文章行文思路如下：首先通过循环神经网络引出为啥需要长短期记忆网络，然后介绍长短期记忆网络的核心思想与运作方式，最后通过简短的代码深入理解长短期记忆...

大家好，我是半虹，这篇文章来讲循环神经网络。文章行文思路如下：首先通过前馈神经网络引出为啥需要循环神经网络，然后介绍循环神经网络的核心思想与运作方式，最后拓展两个循环神经网络常见且常用的变体。