我目前正在参加“书生大模型实战营”。这是一个旨在帮助学员掌握大模型开发和应用的实战课程。
为了更好地记录完成过程,我根据官方提供的教程文档提取了核心步骤,并去掉了详细的背景知识介绍和说明,这样后续作为一个手册查找起来会更加直观。
但建议大家在实际学习过程中还是多看看原文,因为原文档确实非常的详细和完整,方便了解每一步的具体原因和背后的原理,这样有助于更牢固地掌握知识,提高实战能力。
进阶岛-第6关
本地环境:Win11。
完成任务步骤记录
本地部署
目标:使用MindSearch源码在Codespace上部署。
完成所需时间:15分钟。
步骤:
前期准备
- 注册并登录“Codespaces”。
- 注册并登录“硅基流动”,在“API密钥”中新增密钥。
环境配置
- 使用Codespaces 的
Blank模板创建codespace。
- 配置环境。
conda create -n mindsearch python=3.10 -y
conda init
需要重新打开一个终端。
conda activate mindsearch
cd /workspaces/codespaces-blank
git clone https://github.com/InternLM/MindSearch.git && cd MindSearch && git checkout ae5b0c5
pip install -r requirements.txt
启动MindSearch
设置“硅基流动”的API KEY
export SILICON_API_KEY=<你的API KEY>
启动后端
conda activate mindsearch
cd /workspaces/codespaces-blank/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch --asy
- --lang: 模型的语言,en 为英语,cn 为中文。
- --model_format: 模型的格式。
- internlm_silicon 为 InternLM2.5-7b-chat 在硅基流动上的API模型
- --search_engine: 搜索引擎。
- DuckDuckGoSearch 为 DuckDuckGo 搜索引擎。
- BingSearch 为 Bing 搜索引擎。
- BraveSearch 为 Brave 搜索引擎。
- GoogleSearch 为 Google Serper 搜索引擎。
- TencentSearch 为 Tencent 搜索引擎。
启动前端
因为启动前端需要重新打开终端,记得激活
mindsearchconda环境。
conda activate mindsearch
cd /workspaces/codespaces-blank/MindSearch
python frontend/mindsearch_gradio.py
效果
如果Codespace自动打开前端预览的话直接测试即可,如果没有打开,可以在底部端口中手动打开前端(7882)链接。
查询“Find legal precedents in contract law.”,结果如下:
Hugging Face部署
目标:在 官方的MindSearch页面 复制Spaces应用到自己的Spaces下。
完成所需时间:20分钟。
步骤:
前期准备
- 注册并登录“硅基流动”,在“API密钥”中新增密钥。
- 注册并登录“Hugging Face”。
部署
打开InternLM官方部署的MindSearch Spaces应用 ,复制应用。
效果
录入“What are the top 10 e-commerce websites?”,提交。