私有化部署大模型机器人系列

本章节主要讲述如何通过bootstrap+jquery+flask的方式将清华大模型chatglm对话能力做成web服务。

本章节主要讲述如何通过清华大模型chatglm自身开源库里自带的gradio库进行web聊天。 一.gradio库介绍 gradio库是一个不需要任何前端知识，专门提供给人工智能用于功能演示的pyth

本章节主要罗列一些清华大模型chatglm本地化部署时常见的bug报错与解决思路，仅供大家参考。 问题1.torch.cuda.OutOfMemoryError 常见问题，显存不够。 一般来说有两种情

本章节主要讲述chatglm相较于transformer的一些改进点，以及在gpu机器上的本地化部署和运行效果。

本章节主要根据本人自己的经验总结当前大模型的一些发展和当前中文开源大模型现状，如果只是想看部署篇，可以跳过本章，直接进入下一章节。

本章节主要从gpu服务器基础驱动环境搭建，cuda与cudnn环境安装，python环境及pytorch安装，建议有条件的可采用云服务器方式，相对要更简单一些。