用户98546396001

传统的RNN，GRU，LSTM他们都有一个问题，就是不能并行计算。同时虽然LSTM解决了长期依赖性的问题，但如果我们有一个很长很长的上万字的文本要处理，这个时候LSTM还是显得力不从心。Transf

Bert BERT，全称为“Bidirectional Encoder Representations from Transformers”，是一种预训练语言表示的方法，意味着我们在一个大型文本语料库