NLP-Prompt综述(4)

48 阅读1分钟

总结:

(1)模型有双向和单向之分,单向模型当前词的预测只取决于他左边的词,而双向模型取决于左边和右边的词,也就是后面出现的attention机制

总结:

(1)如上,left-right模型,后面的参数x只能共享x之前的input,而后面的是所有input共享

总结:

(1)prompt有hard和soft之区别,主要在于hard是特定的文本,比如英文短语、中文短语而soft是embedding,不区分语言

总结:

(1)该部分列举了各种模版形式