huwenxianglyy

上一篇介绍了基本的ner任务，这篇继续介绍下CRF，最后使用Bert实现Ner任务。 我们先看两张简图。 图一是Bilstm也就是上一篇介绍的模型，图二就是BiLstm+CRF。对比两图不难发现，图二在标签之间也存在着路径连接，这便是CRF层。这里CRF的作用就是对各标签的之间…

命名实体识别（Named Entity Recognition，简称NER）就是从一句话中找出相关的实体，并标识出其位置，实体的定义很广，可以是人名、机构、地点，根据业务需求也可以是性别、产品型号之类的。 刘媛媛同学被清华大学录取。 这里刘媛媛是一个人，清华大学是一个机构。 N…

使用Bert有一段时间了，在项目中确实也能带来提升，这里总结下bert的使用心得。 Bert在训练的过程确实很消耗资源。 上面是Bert模型在12G显存的显卡上，每轮的样本数和句子长度。 开始还担心Bert模型部署在客户的机器上能否正常运行。后面测试发现，如果没有太高的并发，其…

BERT模型，本质可以把其看做是新的word2Vec。对于现有的任务，只需把BERT的输出看做是word2vec，在其之上建立自己的模型即可了。 其中 Uncased 是字母全部转换成小写，而Cased是保留了大小写。 BERT源码 可以在Tensorflow的GitHub上获…