在数据增强、蒸馏剪枝下ERNIE3.0分类模型性能提升

在数据增强、蒸馏剪枝下ERNIE3.0模型性能提升

项目链接：
aistudio.baidu.com/aistudio/pr…

以CBLUE数据集中医疗搜索检索词意图分类为例：

本项目首先讲解了数据增强和数据蒸馏的方案，并在后面章节进行效果展示，结果预览：

模型	ACC	Precision	Recall	F1	average_of_acc_and_f1
ERNIE 3.0 Base	0.80255	0.9317147	0.908284	0.919850	0.86120
ERNIE 3.0 Base+数据增强	0.7979539	0.901004	0.92899	0.91478	0.8563
ERNIE 3.0 Base+剪裁保留比0.5	0.79846	0.951257	0.89497	0.92225	0.8603
ERNIE 3.0 Base +剪裁保留比2/3	0.8092071	0.9415384	0.905325	0.923076	0.86614