CReep

hi！又到每周分享的时刻了，希望大家能有收获呀！！！！！！！！！！！ ”BERT“ 这个词相信大家已经不在陌生了, 发布至今，BERT 已成为 NLP 实验中无处不在的基线。

Bert用了Transform的encoder侧网络，作为一个文本编码器，使用大规模数据进行预训练，预训练使用了两个loss。下文逐渐给大家介绍。

prompt是研究者们为下游任务设计的一种模板或者范式，这种范式能够帮助预训练模型回忆起自己预训练学到的知识，其实说白了就是将下游任务和预训练任务的统一（近似），比如说MLM。

今天主要给大家带来Dropout在NLP最新应用，希望能给大家带来收获！！！！！！！！！！！！！！！！

1. 什么是朴素贝叶斯法 朴素贝叶斯（naive Bayes）法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。朴素贝叶斯法实现简单，…