矮人三等

本文主要是个人学习知识蒸馏的一个记录，欢迎大家积极讨论，有问题的地方还希望不吝赐教，一起学习共同进步

微调相关方法以及详细原理解释，其他知识补充以及能够实现微调的框架等，本文章为个人学习总结使用，有问题直接提出，欢迎交流～

本文主要是个人学习 gpt 系列开源模型gpt1,2,3的技术总结，包含了多方面的信息以及方法处理总结。

Embedding 词和句向量模型word2vec/glove/fasttext/elmo/doc2vec/infersent学习总结

本文主要复习总结深度学习基础算法中从最基本的神经元，到 RNN，CNN，LSTM 等算法，以及其中用到的梯度下降，反向传播，优化器等等内容

attention、transform、bert 复习总结，其中包含了个人对每个算法的最新理解和阐述，并整理相关步骤，简单通俗的总结其内容

引言 Jupyter-ai 和 Pandas-ai 的优化主要是个人工作遇到的需求，个人觉得是一个不错的体验优化，所以进行分享 仅供参考，不喜勿喷，共同进步！

本文作为个人学习 Bert 原理理论的总结，主要与其融合的模型对比举例，详细拆解其结构进行理解记录，同样也包含了一些思考。

LR 使用到交叉验证和网格搜索优化的实现方式GridSearchCV和cross_val_score的异同，仅供参考。