书生大模型实战营第4期——入门篇4 玩转HF/魔搭/魔乐社区

193 阅读2分钟

本次作业将深入探索如何充分利用 Hugging Face、魔搭社区和魔乐社区的AI资源和工具,学习模型下载、上传以及创建您的专属Space,玩转三大平台。

1 模型下载

1.1 huggingface

由于磁盘和网络的原因,使用**CodeSpace**平台来演示hf模型的下载和使用:

选择jupyter notebook的模板:

image.png

安装依赖:

pip install transformers==4.38
pip install sentencepiece==0.1.99
pip install einops==0.8.0
pip install protobuf==5.27.2
pip install accelerate==0.33.0

image.png

创建模型下载脚本hf_download_josn.py:

import os
from huggingface_hub import hf_hub_download

# 指定模型标识符
repo_id = "internlm/internlm2_5-7b"

# 指定要下载的文件列表
files_to_download = [
    {"filename": "config.json"},
    {"filename": "model.safetensors.index.json"}
]

# 创建一个目录来存放下载的文件
local_dir = f"{repo_id.split('/')[1]}"
os.makedirs(local_dir, exist_ok=True)

# 遍历文件列表并下载每个文件
for file_info in files_to_download:
    file_path = hf_hub_download(
        repo_id=repo_id,
        filename=file_info["filename"],
        local_dir=local_dir
    )
    print(f"{file_info['filename']} file downloaded to: {file_path}")

并运行命令:

python hf_download_josn.py

下载结果如下:

image.png

可以看到,已经从Hugging Face上下载了相应配置文件

image.png

1.2 魔搭

1.3 魔乐

2 模型上传

2.1 huggingface

安装git-lfs

curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh | sudo bash
# sudo apt-get install git-lfs # CodeSpace里面可能会有aptkey冲突且没有足够权限
git lfs install # 直接在git环境下配置git LFS
pip install huggingface_hub

image.png

登录hf:

git config --global credential.helper store
huggingface-cli login

image.png

上传repo:

image.png

repo地址如下: huggingface.co/miugod/inte…

2.2 魔搭

2.3 魔乐

3 hf space

接下来在HF平台上使用Spaces并部署intern_cobuild。

Hugging Face Spaces 是一个允许我们轻松地托管、分享和发现基于机器学习模型的应用的平台。Spaces 使得开发者可以快速将我们的模型部署为可交互的 web 应用,且无需担心后端基础设施或部署的复杂性。

首先进入下面的网址在右上角创建一个新的space:

huggingface.co/spaces

image.png

接下来克隆space并修改html文件:

image.png

接下来设置需要设置access token:

git remote set-url origin https://<user_name>:<access_token>@huggingface.co/spaces/<user_name>/intern_cobuild/

需要创建一个具有读写权限的access token,访问:

huggingface.co/settings/to…

image.png

勾选读写权限:

image.png

上传space:

git add .
git commit -m "update: colearn page"
git push

image.png

结果如下: huggingface.co/spaces/miug…

image.png

4 总结

通过本次作业,我们学习了如何使用 Hugging Face、魔搭社区和魔乐社区的 AI 资源和工具。我们掌握了模型的下载、上传以及创建专属 Space 的基本操作。这些技能将为我们在 AI 领域的进一步探索和实践打下坚实的基础。希望未来能在这些平台上进行更多的实验和开发,推动 AI 技术的应用与发展。