下载
下载:https://ollama.com/download
我下载的是Windows版本:
Docker启动
使用Docker启动要更简单点。
拉取镜像:
docker pull ollama/ollama
使用CPU启动:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
使用GPU启动:
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
运行模型
docker exec -it ollama ollama run llama2