背景
在我自己的ECS服务器上启动Python服时,报模型下载失败,经排查是因为服务器无法直接访问Huggingface
解法
在Python代码中指定下载源
这种方式只用在Python头部添加以下代码即可
import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
这样设置之后,您可以正常使用Huggingface的API来下载模型和数据集 。
使用命令行工具下载
pip install -U huggingface_hub
# 设置下载源
export HF_ENDPOINT=https://hf-mirror.com
# 下载模型
huggingface-cli download --resume-download --local-dir-use-symlinks False {模型} --local-dir {本地路径}
这样就能把模型下载到指定的本地目录中
修改代码模型路径
model_name_or_path = '模型本地路径'
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path)
model = AutoModel.from_pretrained(model_name_or_path, trust_remote_code=True
其它方法
1.手动下载并上传 2.vpn下载