自然语言处理 （Natural Language Processing，NLP）是一门融合了计算机科学、人工智能以及语言学的交叉学科，它们的关系如图 1-1 所示。这门学科研究的是如何通过机器学习等技术，让计算机学会处理人类语言，乃至实现终极目标——理解人类语言或人工智能①。 …

1. 马尔可夫网络、马尔可夫模型、马尔可夫过程、贝叶斯网络的区别 这一节我们重点来讲一下马尔可夫，正如题目所示，看了会一脸蒙蔽，好在我们会一点一点的来解释上面的概念，请大家按照顺序往下看就会完全弄明白了，这里我给一个通俗易懂的定义，后面我们再来一个个详解。 以下共分六点说明这些…

即刻上有很多有趣的即友和好玩的圈子，如何帮助用户发现喜欢的圈子、找到自己人，是即刻推荐团队一直以来的愿景。在这篇文章中，我们将介绍即刻推荐系统中一个组件——基于Spark的机器学习库，以及它是如何解决在线预测和离线训练的矛盾的。 首先，我们将介绍推荐系统中的两种计算环境，以及它…

向量维度过大。 词袋模型(Bag of Words,简称BoW)。词袋模型假设我们不考虑文本中词与词之间的上下文关系，仅仅只考虑所有词的权重。而权重与词在文本中出现的频率有关。 词袋模型首先会进行分词，在分词之后，通过统计每个词在文本中出现的次数，我们就可以得到该文本基于词的特…

Google 2017年的论文 Attention is all you need 阐释了什么叫做大道至简！该论文提出了Transformer模型，完全基于Attention mechanism，抛弃了传统的RNN和CNN。 我们根据论文的结构图，一步一步使用 PyTorch …

在数据量不大时，我们的程序只需要考虑能否实现功能。但随着用户量的增长以及随之而来的用户行为数据和各种业务数据的急剧增加，那些仅仅能满足功能的代码，就不得不再考虑它的运行效率。如果运行过于漫长，就算实现了功能，这样的程序在实际生产中也是不能用的，必须对程序算法进行分析，给出时间复…

Encoder-Decoder 模型主要是 NLP 领域里的概念。它并不特值某种具体的算法，而是一类算法的统称。Encoder-Decoder 算是一个通用的框架，在这个框架下可以使用不同的算法来解决不同的任务。 Encoder 又称作编码器。它的作用就是「将现实问题转化为数学…