docker改动镜像并重新编译举例
使用vllm启动Qwen VL 2.5出现报错
0.7.2 Docker Container doesn't support Qwen VL 2.5 Instruct
查看镜像
docker images
会发现本地有vllm/vllm-openai:v0.7.2镜像,id为f78c8f2f8ad5
空白文件夹中新建文件Dockerfile
写入:
FROM vllm/vllm-openai:v0.7.2
RUN pip install git+https://github.com/huggingface/
FROME: Docker 默认会尝试从远程仓库拉取镜像,如果本地镜像名称和标签与 FROM 指令完全匹配,Docker 会优先使用本地镜像。
若不放心把images
docker tag f78c8f2f8ad5 my-qwen2.5-vllm:v0.7.2
编译新的镜像
docker build -t vllm-qwen2.5-vl-pip-transformer .
查看镜像
docker images
发现有了新的被改动过的镜像vllm-qwen2.5-vl-pip-transformer
docker save -o vllm-072.tar vllm-qwen2.5-vl-pip-transformer:0.7.2
可以将本地的镜像保存到本地tar包
若想加载则
docker load -i vllm-072.tar
docker ps -a 是查看容器
参考: https://github.com/vllm-project/vllm/issues/12980