docker部署使用本地文件的fastapi项目

项目背景:项目使用python开发,需要使用ubutun系统部署后端api接口,对外使用8901端口。

1:项目结构:

2:项目需要使用的pyhton版本为3.9,dockerfile内容如下:

# 
FROM python:3.9# 
WORKDIR /code# 
COPY ./requirements.txt /code/requirements.txt# 
RUN pip install --no-cache-dir --upgrade -r /code/requirements.txt# 
COPY ./app /code/app# 
CMD ["python", "main.py"]

2.1:文件开头是docker需要运行的环境,python 3.9。

第二行声明工作目录。

第三行将当前文件夹中的安装依赖文件复制到工作目录下。

第四行Run 是要在构造docker镜像的时候需要安装的环境依赖,因为本次项目是要部署一个大模型,所以需要安装的依赖非常多。

最后一行 CMD,声明使用的pyhton 运行main.py文件,这里直接使用运行的命令需要main.py里面的支持。

3:main.py最后一行如下:

if __name__ == "__main__":uvicorn.run(app, host="0.0.0.0", port=80)

这里需要注意:port端口需要使用80对外,因为我们在构造docker环境的时候会使用80这个端口指向,这个端口一定要与docker run 时的端口一致。

 

4:因为我部署的是AI项目,所以需要使用一个比较大的模型文件,模型文件放在本地路径中如下:/mnt/nvme1n1p2/llmModels/ChatGLM4-9b-1M/,这个路径在做docker构造镜像的时候需要做一个映射,将本地文件映射到docker环境中去。

 5:以上准备工作做完,现在使用docker构造镜像:

docker build -t fastapi .

 构建一个名为fastapi 的docker镜像,因为dockerfile需要使用pip安装很多依赖,所以要了一些时间。构建如果出现问题,需要按照提示去排查。构建完成后使用:docker images

检查一下看看镜像是否构建完成:


REPOSITORY                                      TAG                                           IMAGE ID       CREATED          SIZE
fasttapi                                         latest                                        a6e3c2fa12c0   33 minutes ago   6.52GB

 在列表中看到已经成功建立了docker镜像。

6:构建完成后运行镜像,因为项目中需要使用本地的一个模型文件,所以需要再运行的时候做一个映射:

docker run -d -it -v /mnt/nvme1n1p2/llmModels/ChatGLM4-9b-1M:/mnt/nvme1n1p2/llmModels/ChatGLM4-9b-1M --name fastapi -p 8901:80 fastapi

6.1:在这个命令中,使用-v指定一个文件映射:/mnt/nvme1n1p2/llmModels/ChatGLM4-9b-1M:/mnt/nvme1n1p2/llmModels/ChatGLM4-9b-1M   映射中的冒号前面一段是本地的实际文件夹路径,后面一段是docker环境中的路径(docker环境中的路径原本是不存在的,只是在run命令指定的时候才有)。

6.2:使用 -p 指定端口映射,使用本机的8901端口映射docker环境中的80端口,这个端口刚好与api项目中运行起来的端口: uvicorn.run(app, host="0.0.0.0", port=80)  一致。

之后只用

docker ps -a

检查一下镜像是否已经跑来:


CONTAINER ID   IMAGE                                  COMMAND                  CREATED          STATUS                     PORTS                                           NAMES
842c29ff7396   fastapi                                "python main.py"         39 minutes ago   Up 39 minutes              0.0.0.0:8901->80/tcp, :::8901->80/tcp           fastapi

看状态:status 已经是Up状态,说明项目已经OK,如果这里的状态不是up ,那就是说明镜像没有跑来,可以使用:

docker logs fastapi

看看日志,是因为什么问题,逐一排查。docker logs fastapi ==>fastapi是镜像的名字。

7:镜像跑起来之后可以使用postman测试一下。

题外话:

有些时候我们在conda环境中跑的环境,有些依赖需要写在requirements.txt中,可以在conda中使用:conda list > env.txt

将当前环境中的所有 依赖导出到env文件中,然后将env文件中的所有依赖写到requirements.txt中就OK了。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/345506.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

LLM大语言模型(十六):最新开源 GLM4-9B 本地部署,带不动,根本带不动

目录 前言 本机环境 GLM4代码库下载 模型文件下载:文件很大 修改为从本地模型文件启动 启动模型cli对话demo 慢,巨慢,一个字一个字的蹦 GPU资源使用情况 GLM3资源使用情况对比 前言 GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 …

面试官:前端实现图片懒加载怎么做?这不是撞我怀里了嘛!

前端懒加载(也称为延迟加载或按需加载)是一种网页性能优化的技术,主要用于在网页中延迟加载某些资源,如图片、视频或其他媒体文件,直到它们实际需要被用户查看或交互时才进行加载。这种技术特别适用于长页面或包含大量…

单片机数码管时钟电路的设计

5 调试 数码管的引脚1~4,a~g以及小数点的排列都不是连续的,这就意味着难免需要飞线。数码管是分共阴和共阳的,起初我错把原理图中的共阳数码管当成了共阴数码管,焊上去了之后才发现,为了避免拆卸…

JWT 从入门到精通

什么是 JWT JSON Web Token(JWT)是目前最流行的跨域身份验证解决方案 JSON Web Token Introduction - jwt.ioLearn about JSON Web Tokens, what are they, how they work, when and why you should use them.https://jwt.io/introduction 一、常见会…

hadoop疑难问题解决_NoClassDefFoundError: org/apache/hadoop/fs/adl/AdlFileSystem

1、问题描述 impala执行查询:select * from stmta_raw limit 10; 报错信息如下: Query: select * from sfmta_raw limit 10 Query submitted at: 2018-04-11 14:46:29 (Coordinator: http://mrj001:25000) ERROR: AnalysisException: Failed to load …

在 SEO 中,一个好的网页必须具备哪些 HTML 标签和属性?

搜索引擎优化 (SEO) 是涉及提高网站在搜索引擎上的可见性的过程。这是通过提高网站在搜索引擎结果页面(例如Google)上的排名来实现的。网站在这些页面上的显示位置越高,就越有可能获得更大的流量。 搜索引擎优化涉及了…

2024国内热门大语言模型在科研方面的应用

本博客总结了几款热门的国产大语言模型,帮助大家利用这些大语言模型更好的进行科研。 模型介绍 1.文心一言 链接:https://yiyan.baidu.com/ 开发方:百度 特点:专注于中文语言理解与生成,适合中文文本的语义理解任务。 百度推出…

UnityXR Interaction Toolkit 如何使用XRHand手部识别

前言 Unity的XR Interaction Toolkit是一个强大的框架,允许开发者快速构建沉浸式的VR和AR体验。随着虚拟现实技术的发展,手部追踪成为了提升用户交互体验的关键技术之一。 本文将介绍如何在Unity中使用XR Interaction Toolkit实现手部识别功能。 准备工作 在开始之前,请…

数字科技如何助力博物馆设计,强化文物故事表现力?

国际博物馆日是每年为了推广博物馆和文化遗产,而设立的一个特殊的日子,让我们可以深入探讨博物馆如何更好地呈现和保护我们的文化遗产,随着近年来的数字科技发展,其在博物馆领域的应用越来越广泛,它为博物馆提供了新的…

使用vite从0开始搭建vue项目

使用Vite从0开始创建vue项目 第一步:创建项目目录 mkdir vue-demo -创建目录 cd vue-demo --进入项目 npm init -y --生成package.json文件 第二步:安装vite、typescript--ts、vue、vitejs/plugin-vue--对单文件组件、热重载、生产优化的支持 pnpm…

【Spring Boot】异常处理

异常处理 1.认识异常处理1.1 异常处理的必要性1.2 异常的分类1.3 如何处理异常1.3.1 捕获异常1.3.2 抛出异常1.3.4 自定义异常 1.4 Spring Boot 默认的异常处理 2.使用控制器通知3.自定义错误处理控制器3.1 自定义一个错误的处理控制器3.2 自定义业务异常类3.2.1 自定义异常类3…

STM32F103单片机工程移植到航顺单片机HK32F103注意事项

一、简介 作为国内MCU厂商中前三阵营之一的航顺芯片,建立了世界首创超低功耗7nA物联网、万物互联核心处理器浩瀚天际10X系列平台,接受代理商/设计企业/方案商定制低于自主研发十倍以上成本,接近零风险自主品牌产品,芯片设计完成只…

《python程序语言设计》2018版第5章第48题以0,0为圆心 绘制10个左右的同心圆

在0,0点处绘制10个圆。 其实这个题先要记住python不会0,0为原点进行绘画。 它是按半径来画,所以我们要先把turtle这个小画笔送到它应该去的起点。(我经常有这样的错觉,每次都是这样想办法把自己拉回来) 我…

(学习笔记)数据基建-数据安全

(学习笔记)数据基建-数据安全 数据安全数据安全实施难点数据安全保障流程数据安全措施实施阶段数据安全如何量化产出数据安全思考 数据安全 数据安全问题是最近比较热的话题,数据泄漏引发的用户信任危机事件也比比皆是,以及跨部门…

AWS EMR Serverless

AWS概述 EMR Serverless 简介 在AWS概述一文中简单介绍过AWS EMR, 它是AWS提供的云端大数据平台。借助EMR可以设置集群以便在几分钟内使用大数据框架处理和分析数据。创建集群可参考官方文档:Amazon EMR 入门。但集群创建之后需要一直运行,用户需要管理…

42. 接雨水

题目 给定 n 个非负整数表示每个宽度为 1 的柱子的高度图,计算按此排列的柱子,下雨之后能接多少雨水。 示例 1: 输入:height [0,1,0,2,1,0,1,3,2,1,2,1] 输出:6 解释:上面是由数组 [0,1,0,2,1,0,1,3,2,1…

Linux——PXE_FTP_EL8

PXE Kickstart ( el8 ) 使用两个网口一个用net接口用于下载服务和软件包,另一个为仅主机用于与其他的空主机相连 PXE(preboot execute environment) 预启动执行环境。支持工作站通过网络从远端服务器下载映像,并由此支持通过网络启…

水库大坝安全监测系统打通监控数据“最后一公里”

一、概述 我国有水库8万座左右,其中土石坝多数,病险水库占水库也很多。众所周知,水库在防洪、兴利上具有重要的调节作用,如何保证水库安全,及合理有效的利用水资源,是水利建设者需要探讨的主要内容。科学技…

中国宠业新锐品牌展,2024苏州国际宠物展6月28日开展!

中国宠业新锐品牌展,2024苏州国际宠物展6月28日开展! ​ 第2届华东国际宠物用品展览会(苏州)暨中国宠业新锐品牌展,将于6月28日-30日在苏州国际博览中心盛大举办,锁定年中市场黄金档期,同期以“NB展,更新鲜…

未在本地计算机上注册“Microsoft.ACE.OLEDB.12.0”提供程序。.net 读取excel的时候报错(实测有效)

1. 下载AccessDatabaseEngine.exe 下载链接 添加链接描述 2. office excel是64为的需要安装【AccessDatabaseEngine.exe】、32位的【AccessDatabaseEngine_X64.exe】 3. 我的是64为,跳过32位安装检测 1. 找到下载的安装包 2.输入安装包文件全称并在后面加上/pas…