大模型入门

前言：为什么你需要认识 vLLM ？ 想象一下这个场景：你花了大价钱买了一台带 GPU 的服务器，满心欢喜地部署了一个开源大模型。结果发现，当两三个人同时使用时，响应速度就开始变得像蜗牛一样慢，甚至直