MindSearch部署 - 第四期书生大模型实战营实验记录(进阶岛-第6关)

137 阅读2分钟

我目前正在参加“书生大模型实战营”。这是一个旨在帮助学员掌握大模型开发和应用的实战课程。

为了更好地记录完成过程,我根据官方提供的教程文档提取了核心步骤,并去掉了详细的背景知识介绍和说明,这样后续作为一个手册查找起来会更加直观。

但建议大家在实际学习过程中还是多看看原文,因为原文档确实非常的详细和完整,方便了解每一步的具体原因和背后的原理,这样有助于更牢固地掌握知识,提高实战能力。

进阶岛-第6关

本地环境:Win11。

原文:github.com/InternLM/Tu…

完成任务步骤记录

本地部署

目标:使用MindSearch源码在Codespace上部署。

完成所需时间:15分钟。

步骤

前期准备

  1. 注册并登录“Codespaces”。
  2. 注册并登录“硅基流动”,在“API密钥”中新增密钥。

环境配置

  1. 使用CodespacesBlank模板创建codespace

image.png

  1. 配置环境。
conda create -n mindsearch python=3.10 -y
conda init

需要重新打开一个终端。

conda activate mindsearch

cd /workspaces/codespaces-blank
git clone https://github.com/InternLM/MindSearch.git && cd MindSearch && git checkout ae5b0c5

pip install -r requirements.txt

启动MindSearch

设置“硅基流动”的API KEY

export SILICON_API_KEY=<你的API KEY>

启动后端

conda activate mindsearch
cd /workspaces/codespaces-blank/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch --asy
  • --lang: 模型的语言,en 为英语,cn 为中文。
  • --model_format: 模型的格式。
    • internlm_silicon 为 InternLM2.5-7b-chat 在硅基流动上的API模型
  • --search_engine: 搜索引擎。
    • DuckDuckGoSearch 为 DuckDuckGo 搜索引擎。
    • BingSearch 为 Bing 搜索引擎。
    • BraveSearch 为 Brave 搜索引擎。
    • GoogleSearch 为 Google Serper 搜索引擎。
    • TencentSearch 为 Tencent 搜索引擎。

image.png

启动前端

因为启动前端需要重新打开终端,记得激活mindsearchconda环境。

conda activate mindsearch
cd /workspaces/codespaces-blank/MindSearch
python frontend/mindsearch_gradio.py

image.png

效果

如果Codespace自动打开前端预览的话直接测试即可,如果没有打开,可以在底部端口中手动打开前端(7882)链接。

image.png

查询“Find legal precedents in contract law.”,结果如下:

image.png

Hugging Face部署

目标:在 官方的MindSearch页面 复制Spaces应用到自己的Spaces下。

完成所需时间:20分钟。

步骤

前期准备

  1. 注册并登录“硅基流动”,在“API密钥”中新增密钥。
  2. 注册并登录“Hugging Face”。

部署

打开InternLM官方部署的MindSearch Spaces应用 ,复制应用。

image.png

image.png

效果

录入“What are the top 10 e-commerce websites?”,提交。

image.png