Albert_yc

Transformer 左半边为 Encoder，右半边为 Decoder。我们将 Encoder 输入的句子称为 source，Decoder 输入的句子称为 target Encoder 负责将 source 进行 self-attention 并获得句子中每个词的 rep…