MindSearch CPU-only 版部署
- MindSearch CPU-only 版部署
- 任务
- 步骤
MindSearch CPU-only 版部署
任务
将 MindSearch 部署到 HuggingFace 并美化 Gradio 的界面,并提供截图和 Hugging Face 的Space的链接。
步骤
按照官方教程,实现在网页上打开MindSearch。
首先,打开codespace主页,选择blank template,创建一个vscode界面。
然后新建一个目录用于存放 MindSearch 的相关代码,并把 MindSearch 仓库 clone 下来:
mkdir -p /workspaces/mindsearch
cd /workspaces/mindsearch
git clone https://github.com/InternLM/MindSearch.git
cd MindSearch && git checkout b832275 && cd ..
然后创建一个python环境,用于运行mindsearch:
conda create -n mindsearch python=3.10 -y
# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt
然后获取硅基流动的API,用于启动MindSearch服务,用如下命令设置环境变量:
export SILICON_API_KEY=第二步中复制的密钥
然后运行MindSearch程序:
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch
上面一步是启动了后端API服务,然后启动前端服务:
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py
最终得到如下的网站:
然后在Huggingface上部署。
创建space空间,然后找到Setting,创建一个secret,命名为SILICON_API_KEY,并填入之前创建的硅基流动Key:
然后创建secret-token用于同步仓库,如下:
在github的codespace上克隆创建好的仓库:
git clone https://huggingface.co/spaces/lzl2040/MindSearch_v1
然后配置secret-token,让自己有写的权限:
git remote set-url origin https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>
然后在本地进入该仓库,将之前在本地创建的文件都复制进来:
cp -r /workspaces/mindsearch/mindsearch_deploy/* .
然后将代码提交到远程仓库:
git add .
git commit -m "update"
git push
最终的huggingface链接为:MindSearch
界面如下: