望江小汽车

NAVER Shopping是NAVER提供的购物门户服务。 NAVER Shopping将产品与类别相匹配，以便系统地组织产品并允许更轻松地搜索用户。 当然，每天将超过2000万个新注册产品与大约5,000个类别相匹配的任务是不可能手动完成的。 本文介绍了使用TensorFl…

我们提出了一种新的称为 BERT 的语言表示模型，BERT 代表来自 Transformer 的双向编码器表示（Bidirectional Encoder Representations from Transformers）。不同于最近的语言表示模型（Peters et al.…

本质上，自然语言理解 NLU 的核心问题其实就是如何从语言文字的表象符号中抽取出来蕴含在文字背后的真实意义，并将其用计算机能够读懂的方式表征出来。当然这通常对应的是数学语言，表征是如此重要，以至于 2012 年的时候 Yoshua Bengio 作为第一作者发表了一篇表征学习的…

本文的内容主要是基于英法平行语料库来实现一个简单的英法翻译模型。没有使用注意力机制和双向LSTM等技术，主要是为了掌握基本的Seq2Seq结构和TensorFlow函数使用。使用TensorFlow 1.12.0，主要依靠 tf.contrib.seq2seq.BasicDec…

KL 散度，用分布 P 的最佳信息传递方式来传达分布 Q，比用分布 Q 自己的最佳信息传递方式来传达分布 Q，平均多耗费的信息长度为 KL 散度，表达为 或 ，KL 散度衡量了两个分布之间的差异。 由 KL 散度的公式可知，分布 Q 里可能性越大的事件，对 影响力越大。如果想让…

遮蔽语言模型（完形填空）和预测下一句任务。 Recent empirical improvements due to transfer learning with language models have demonstrated that rich, unsupervised…

Attention是一种用于提升基于RNN（LSTM或GRU）的Encoder + Decoder模型的效果的的机制（Mechanism），一般称为Attention Mechanism。Attention Mechanism目前非常流行，广泛应用于机器翻译、语音识别、图像标注…

如果你对自然语言处理和深度学习感兴趣，一定要看看本文，怎么从原始文本数据处理到训练模型到构建应用。过程很重要！总有一点你会有收获。 SMP2018中文人机对话技术评测由中国中文信息学会社会媒体处理专委会主办，哈尔滨工业大学、科大讯飞股份有限公司承办，讯飞公司提供数据，华为公司提…

这一章介绍了大量每个数据科学家需要牢记在心的基础概念（和习语）。第一章只是概览（唯一不含有代码的一章），相当简单，但你要确保每一点都搞明白了，再继续进行学习本书其余章节。端起一杯咖啡，开始学习吧！ 提示：如果你已经知道了机器学习的所有基础概念，可以直接翻到第2章。如果你不确认，…