一、安装包下载地址
1. AnythingLLM安装包
- (支持Windows/macOS/Linux,部分用户反馈需科学上网)
- 国内镜像备份(含DeepSeek相关工具):www.mix688.com/118.html
2. CUDA安装包
国内镜像(若官网访问慢):
- 国内镜像备份(含DeepSeek相关工具):www.mix688.com/118.html
二、搭建流程
步骤1:基础环境准备
- 安装CUDA
- 根据显卡驱动版本选择CUDA(通过nvidia-smi查看驱动兼容性)
- Windows用户双击.exe安装,Linux用户选择runfile格式
- 安装图文教学:www.mix688.com/forum-post/630.html
- 验证安装:命令行输入 nvcc –version
- 部署Ollama(于本地运行DeepSeek模型)
验证deviceQuery和bandwidthTest,在命令窗口运行测试文件,定位到 在cuda安装目录的deviceQuery.exe bandwidthTest.exe两个地方的Result=PASS则说明通过,反之,Rsult=Fail 则需要重新安装。
- 安装图文教学:www.mix688.com/forum-post/630.html