算法相关

RAG是一种将 LLM 与外部数据源结合的方法，解决模型实时性和幻觉问题的一种方法，本文为个人学习记录。

本文主要是个人学习MOE/GShard/Switch_Transformers结构的学习总结，公式比较简陋，可以参考参考资料中的公式来理解

文本为个人系统性学习了解 prompt 工程的笔记，欢迎大家讨论，如有不足或者错误之处欢迎勘误～～～

本文作为个人学习模型对齐方法的一个简单总结，建议看原版公式，此处公式仅作为个人理解使用的简化版，如有问题欢迎讨论

本文主要是个人学习知识蒸馏的一个记录，欢迎大家积极讨论，有问题的地方还希望不吝赐教，一起学习共同进步

微调相关方法以及详细原理解释，其他知识补充以及能够实现微调的框架等，本文章为个人学习总结使用，有问题直接提出，欢迎交流～

本文主要是个人学习 gpt 系列开源模型gpt1,2,3的技术总结，包含了多方面的信息以及方法处理总结。

Embedding 词和句向量模型word2vec/glove/fasttext/elmo/doc2vec/infersent学习总结

本文主要复习总结深度学习基础算法中从最基本的神经元，到 RNN，CNN，LSTM 等算法，以及其中用到的梯度下降，反向传播，优化器等等内容

attention、transform、bert 复习总结，其中包含了个人对每个算法的最新理解和阐述，并整理相关步骤，简单通俗的总结其内容

引言 Jupyter-ai 和 Pandas-ai 的优化主要是个人工作遇到的需求，个人觉得是一个不错的体验优化，所以进行分享 仅供参考，不喜勿喷，共同进步！

本文作为个人学习 Bert 原理理论的总结，主要与其融合的模型对比举例，详细拆解其结构进行理解记录，同样也包含了一些思考。

文本主要介绍了 pandas 在使用 groupby 分组的的一些相关知识点以及个人理解总结，仅供参考

本文主要介绍Macos 系统如何本地安装 pyspark 以及安装过程中遇到的问题和解决方法，仅供参考

本文主要介绍个人调研关于模型监控全流程的一个总结，其中包含训练数据获取，处理以及训练模型，模型性能监控，下线等全流程。

本文主要是对 transformer 实现代码的解析，包含对实现过程中的一些细节问题的解析以及测试，仅供参考

本文主要介绍个人学习 transformer 的一些总结和个人理解，可能理解的是比较表面的或者有错误的地方欢迎指正，仅供参考。

attention 总结的初版主要介绍了注意力机制的理论概念，本文主要作为其补充，补充个人理解的一个加深以及相关变体的一些代码实现。 以下为个人的一些比较疑惑的地方以及个人理解，仅供参考

Fpgrowth /FP Tree算法原理的总结，另外附上个人测试的具体使用的代码和数据集，仅供参考。

本文将总结归纳个人搜集关于注意力机制的一些简单通俗理解，在失业期间作为个人充电的起始，本文不包含众多注意力机制以及其组合的变体，只为方便理解后续的一些算法做铺垫。