引言: 前面几篇文章介绍了如何使用langchain定制我们的gpt应用,总感觉哪里不对劲?哦哦哦,哪有应用运行在本地的代码行的呀,今天我们就使用huggingface平台发布我们的应用。
什么是huggingface? HuggingFace 是现在最流行的深度模型的社区,你可以在里面下载到最新开源的模型,以及看到别人提供的示例代码。
首先我们需要搭建一个界面。 慢,别急,不需要我们动脑,有现成的方法,非常简单。 有一个python库:Gradio;Gradio 渲染出来的界面可以直接在 Jupyter Notebook 里面显示出来,对于不了解技术的同学,也不再需要解决其他环境搭建的问题。你可以免费把 Gradio 的应用部署到 HuggingFace 上。 (补充:Gradio 是一个用于快速搭建交互式机器学习应用程序的 Python 库,允许开发者能够轻松地将训练好的模型封装为一个可视化界面。通过 Gradio 可以快速地在浏览器中搭建一个交互式界面,帮助用户与机器学习模型进行交互,提高模型的可用性。Gradio 内置了许多常见的用户界面组件,例如文本框、滑块、图像上传和下拉菜单等,开发者可以选择合适的组件来构建一个用户界面,让用户能够更加方便地使用自己的机器学习模型。) 先安装一下 Python 的 Gradio 的包。
pip install gradio
整个代码我放到:huggingface.co/spaces/zygl… 上面了
然后就可以部署到huggingface上了。
- huggingface.co 注册一个账号,点击左上角的头像,然后点击 “+New Space” 创建一个新的项目空间
。
- 在接下来的界面里,给你的 Space 取一个名字,然后在 Select the Space SDK 里面,选择第二个 Gradio。硬件我们在这里就选择免费的,项目我们在这里选择 public,让其他人也能够看到。
- 创建完成自动跳转到app页面,然后只需要按照它的提示上传代码就可以了。只需要使用git上传两个文件:app.py 包含了我们的 Gradio 应用;requirements.txt 包含了这个应用依赖的 Python 包。(自己创建txt文件,里面写依赖的python包名字即可。比如:OpenAI)
- 提交后刷新,然后配置以下环境变量,点击界面里面的 Settings,然后往下找到 Repository secret。在 Name 这里输入 OPENAI_API_KEY,然后在 Secret value 里面填入你的 OpenAI 的密钥。
- 最后reset this Space,点击app看看自己的应用是否成功部署了
当然,你可以到huggingface里面找自己喜欢的,别的大神写的gpt应用,剩下的就是大家去探索了。
今天就这么多。明天继续连载。