NLP系列学习:常用的语言平滑模型

398 阅读1分钟

语言模型常见的平滑算法就那几种,一般的教程都不提分几种的模式、分类。

不过在MIT的NLP课程ppt中总结说有三种模式:Discounting, Interpolationg, Back-off

有关这三种模式的描述可以见其PPT(people.csail.mit.edu/regina/6864…

Discounting类包括:

Add-One Smoothing(加法平滑)

Good-Turing Discounting(图灵平滑)

Katz Smoothing

Interpolation类包括:

Linear Interpolation(插值平滑)

Back-off类包括:

Kneser-Ney Smoothing

有关各个平滑算法的具体描述,也可见上述PPT。