NLP-Prompt综述(4) ITIRONMAN 2023-05-06 48 阅读1分钟 总结: (1)模型有双向和单向之分,单向模型当前词的预测只取决于他左边的词,而双向模型取决于左边和右边的词,也就是后面出现的attention机制 总结: (1)如上,left-right模型,后面的参数x只能共享x之前的input,而后面的是所有input共享 总结: (1)prompt有hard和soft之区别,主要在于hard是特定的文本,比如英文短语、中文短语而soft是embedding,不区分语言 总结: (1)该部分列举了各种模版形式