矮人三等

RAG是一种将 LLM 与外部数据源结合的方法，解决模型实时性和幻觉问题的一种方法，本文为个人学习记录。

本文主要是个人学习MOE/GShard/Switch_Transformers结构的学习总结，公式比较简陋，可以参考参考资料中的公式来理解

文本为个人系统性学习了解 prompt 工程的笔记，欢迎大家讨论，如有不足或者错误之处欢迎勘误～～～

本文作为个人学习模型对齐方法的一个简单总结，建议看原版公式，此处公式仅作为个人理解使用的简化版，如有问题欢迎讨论

本文主要是个人学习知识蒸馏的一个记录，欢迎大家积极讨论，有问题的地方还希望不吝赐教，一起学习共同进步

微调相关方法以及详细原理解释，其他知识补充以及能够实现微调的框架等，本文章为个人学习总结使用，有问题直接提出，欢迎交流～

本文主要是个人学习 gpt 系列开源模型gpt1,2,3的技术总结，包含了多方面的信息以及方法处理总结。

Embedding 词和句向量模型word2vec/glove/fasttext/elmo/doc2vec/infersent学习总结

本文主要复习总结深度学习基础算法中从最基本的神经元，到 RNN，CNN，LSTM 等算法，以及其中用到的梯度下降，反向传播，优化器等等内容