第19章:NLP阅读理解MRC(Machine Reading Comprehension)数学原理、技术本质及常见算法

437 阅读2分钟

1,以一篇119个Words的GRE(Graduate Record Examinations)文章及2个相应的阅读理解题目为例来剖析阅读理解的过程及其背后的机制

2,MRC在智能客服、机器问答、搜索引擎等等广泛应用背后的原因:规模化价值复制

3,信息的本质及信息理解的本质数学机制剖析

4,MRC三元素:Question-Context-Answer数学模型及技术本质剖析

5,MRC的核心:Attention Computations

6,MRC对信息理解三大层次解析及背后对应的数学模型

7,MRC实现方法之传统特征工程解析

8,MRC实现方法之深层语意图匹配解析

9,MRC实现方式之神经网络及Attention机制解析

10,MRC数据之Single-Document和Multiple-Document解析

11,MRC的四大核心任务之Cloze Tests数据集、数学原理和技术本质剖析

12,MRC的四大核心任务之Multiple Choice数据集、数学原理和技术本质剖析

13,MRC的四大核心任务之Span Extraction数据集、数学原理和技术本质剖析

14,MRC的四大核心任务之Free Anwering数据集、数学原理和技术本质剖析

15,Cloze Tests数据集分析:CNN&Daily Mail、CBT等

16,Multiple Choice数据集分析:MC Test、RACE等

17,Span Extraction数据集分析:SQuAD、NewsQA等

18,Free Answering数据集分析:MS MARCO、DuReader等

19,MRC的测试集解析:In-domain、Over-sensitivity、Over-stability、Generalization等

20,MRC的可回答问题及无答案问题数学原理剖析及BERT实现

21,MRC的Feature extraction数学原理及算法分析

22,传统Machine Learning Algorithms对MRC 算法解析

23,BiDAF (Bi-Directional Attention Flow)下的MRC算法解析

24,QANet下的MRC算法解析

25,Transformer架构下的BERT及ALBERT下的MRC 解析

26,Transformer架构下的XLNET下的MRC 解析