大模型理论以及其应用

操作步骤 创建数据盘存储目录 bash mkdir -p /root/autodl-tmp/conda/{envs,pkgs} 修改Conda配置文件 编辑或新建 ~/.condarc 文件： bas

前言 由于基于autoDL+ollama进行大模型本地化部署存在一些问题，现在就这些问题机型补充。 如何修改 ollama的默认端口 用autoDL想要对外发布服务，必须将服务端口改为6006, 由于

指定Xinference下载模型的路径 1. 通过环境变量全局设置 修改默认存储路径 在启动Xinference服务前，通过设置环境变量 XINFERENCE_HOME 指定模型和数据的存储目录。例如