无峰

1. 概述 前面已经通过源码介绍了 tranformers 中如何使用 AutoTokenizer 加载 Tokenizer，本文主要介绍如何使用加载的 Tokenizer...

部署LangChain-Chatchat，并利用部署框架Xinference，实现模型推理页面服务、实现rag。...

本文目标：部署Xinference，并通过Xinference下载llm模型，在网页上体验推理效果。...