大语言模型LLM

笔者认为大语言模型本身的开发应用可以分为三层：模型基础研发、模型定制优化和模型应用开发。读者可以结合自身实际情况选择一个应用方向深入研究。

大模型本质上是一个维度非常巨大的矩阵，模型训练和微调本质上是调整模型矩阵的值。大模型回答用户问题，实质上是先将用户输入向量化之后，再与模型矩阵进行运算得到值最优的向量值。

大模型的部署一般需要GPU资源，而个人电脑一般都是Windows操作系统，且没有独立的GPU。那么大模型如何部署在只有CPU的Windows机器上呢？

大模型席卷全球，彷佛得模型者得天下。对于IT行业来说，以后可能没有各种软件了，只有各种各样的智体（Agent）调用各种各样的API。在这种大势下，笔者也阅读整很多大模型相关的资料与大家分享。