李rumorr

距离上篇文章又一个月了。。。时光飞逝。。。再次立下一周一篇的flag 最近读了一篇专栏文章BERT时代与后时代的NLP，收获颇丰。算是作者的同行，最近也在做类似的东西，但是...

最近看了一篇论文叫《Linguistic Knowledge and Transferability of Contextual Representations》，NAAC...

终于用上了bert，踩了一些坑，和大家分享一下。 我主要参考了奇点机智的文章，用bert做了两个中文任务：文本分类和相似度计算。这两个任务都是直接用封装好的run_clas...

1. 简介 长期以来，词向量一直是NLP任务中的主要表征技术。随着2017年底以及2018年初的一系列技术突破，研究证实预训练的语言表征经过精调后可以在众多NLP任务中达到...

之前总是在看前沿文章，真正落实到工业级任务还是需要实打实的硬核基础，我司选用了HANLP作为分词组件，在使用的过程中才感受到自己基础的薄弱，决定最近好好把分词的底层算法梳理...

上一篇transformer写了整整两周。。解读太慢了。。主要是自己也在理解，而且没有时间看源码，非常惭愧，如果哪里说错了希望大佬们可以提醒一下 2. 【NLP】Trans...

11号论文放上去，12号各个公众号推送，13号的我终于在最晚时间完成了前沿追踪，惊觉上一篇论文竟然是一个月前。。。立个flag以后保持一周一更的频率。下周开始终于要在工作上...

自Attention机制提出后，加入attention的Seq2seq模型在各个任务上都有了提升，所以现在的seq2seq模型指的都是结合rnn和attention的模型，...

对attention一直停留在浅层的理解，看了几篇介绍思想及原理的文章，也没实践过，今天立个Flag，一天深入原理和源码！如果你也是处于attention model le...

之前蹭上了BERT的热度，粉以个位数每天的速度增长，感谢同学们的厚爱！弄得我上周本来打算写文本分类，写了两笔又放下了，毕竟文本分类有很多SOTA模型，而我的研究还不够深入。...