jetson orin nano super AI模型部署之路(三)stable diffusion部署

先看一下部署后的界面和生成的图片。

在jetson orin nano super上部署stable diffusion比较简单,有现成的docker image和代码可用。

docker image拉取

使用的docker image是dustynv/stable-diffusion-webui,对于jetson orin nano super的jetpack6.2来说,使用r36.2.0版本就可以。

docker pull dustynv/stable-diffusion-webui:r36.2.0

拉取后,使用如下命令启动docker container

sudo docker run --runtime nvidia --gpus all --net host --ipc host -it --name sd  -v /home:/home dustynv/stable-diffusion-webui:r36.2.0

启动stable diffusion webui

在这个docker image中,已经包含了stable diffusion webui的代码和tensorrt的extension。当前阶段我们默认只使用stable diffusion来部署,后续会对模型做tensorrt的加速。

cd /opt/stable-diffusion-webui && python3 launch.py \--data=/data/models/stable-diffusion \--enable-insecure-extension-access \--xformers \--listen \--port=7860

这样就启动了stable diffusion webui。然后就可以使用文生图、图生图、controlnet等工具了。这样启动默认使用的是0.0.0.0地址,可以直接通过局域网内其他计算机访问jetson的ip和port来打开。

对于8G的jetson orin nano super设备来说,建议把gnome桌面程序kill掉,可以节省600M左右的显存。

  • 禁用桌面图形用户界面

如果内存不足,您可能需要尝试禁用Ubuntu桌面图形用户界面(GUI)。这将释放窗口管理器和桌面所占用的额外内存(对于Unity/GNOME约为800MB,对于LXDE约为250MB)。

在我的机器上,图形用户界面占用了450M左右的memory。将它关掉还是能省很多的memory的。一般我都是不用图形化的时候就先关掉,用的时候再打开。

可以临时禁用桌面,在控制台中运行命令,然后在需要时重新启动桌面:

$ sudo init 3     # 停止桌面
# 使用Ctrl+Alt+F1、F2等组合键让用户重新登录到控制台
$ sudo init 5     # 重新启动桌面

如果希望在重启后该设置仍然生效,可以使用以下命令来更改启动行为:

$ sudo systemctl set-default multi-user.target     # 启动时禁用桌面
$ sudo systemctl set-default graphical.target      # 启动时启用桌面

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/43213.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

react如何引用(按需加载)百度地图,并结合and组件化封装

1.技术选项: vitereactantdesign load-script 2.实现思路: 1.按需加载如何实现? 要实现按需加载就不能直接在项目的入口文件这种地方去通过script标签引入,这里使用load-script封装了一个加载百度地图的Bmap.js方法,实现动态的插入script脚本。 根…

Java虚拟机(JVM)详解

Java虚拟机(JVM)详解 JVM内存结构垃圾收集算法标记-清除 算法复制 算法标记 - 整理 算法分代收集算法 类加载类加载过程加载器类型双亲委派模型 Java对象如何判断存活引用计数法可达性分析法 方法分派模型静态分派动态分派 JVM内存结构 方法区&#xff1…

AI知识补全(八):多模态大模型是什么?

名人说:人生如逆旅,我亦是行人。 ——苏轼《临江仙送钱穆父》 创作者:Code_流苏(CSDN)(一个喜欢古诗词和编程的Coder😊) 上一篇:AI知识补全(七):AI Agent 智能…

从 Word 到 HTML:使用 Aspose.Words 轻松实现 Word 文档的高保真转换

从 Word 到 HTML:使用 Aspose.Words 轻松实现 Word 文档的高保真转换 前言一、环境准备二、核心代码实现1. 将 Word 转换为 HTML 文件流2. 优化超链接样式 三、测试效果四、总结 前言 在日常开发中,我们经常需要将 Word 文档转换为 HTML,用于…

观察者模式:解耦对象间的依赖关系

观察者模式:解耦对象间的依赖关系 JDK 中曾直接提供对观察者模式的支持,但因其设计局限性,现已被标记为“过时”(Deprecated)。不过,观察者模式的思想在 JDK 的事件处理、spring框架等仍有广泛应用。下面我…

人工智能之数学基础:矩阵的相似变换的本质是什么?

本文重点 矩阵的相似变换是线性代数中一个至关重要的概念,它揭示了矩阵之间的一种特殊关系。并提供了通过可逆矩阵将一个矩阵转化为另一个矩阵的方法,,同时保持矩阵的某些本质特征不变。但是,你有没有想过,矩阵相似变…

C++中ShellExecute函数使用方法说明,如果一开始参数为隐藏,后面还能再显示出来吗

文章目录 一、ShellExecute基础用法函数原型关键参数 nShowCmd示例代码:启动程序并隐藏窗口 二、隐藏后能否重新显示窗口直接答案 三、实现隐藏后显示窗口的步骤1. 获取目标窗口句柄2. 显示窗口 四、完整流程示例五、注意事项六、总结 在C中使用ShellExecute函数时&…

[ 工具使用指南 ] | Visual Studio 2019 调试

目录 什么是BUG 启动调试 逐过程,逐语句的区别? 打断点 条件断点 小结 之前推荐刚刚学习C/C的小伙伴使用 Visual Studio 2019 这款工具来写代码。这篇博客就来简单介绍一下Visual Studio 2019 的调试方法~ 什么是BUG 在最开始的晶体管的计算机的…

基于javaweb的SpringBoot水果生鲜商城系统设计与实现(源码+文档+部署讲解)

技术范围:SpringBoot、Vue、SSM、HLMT、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、安卓app、大数据、物联网、机器学习等设计与开发。 主要内容:免费功能设计、开题报告、任务书、中期检查PPT、系统功能实现、代码编写、论文编写和辅导、论…

【深度学习】GAN生成对抗网络:原理、应用与发展

GAN生成对抗网络:原理、应用与发展 文章目录 GAN生成对抗网络:原理、应用与发展1. 引言2. GAN的基本原理2.1 核心思想2.2 数学表达2.3 训练过程 3. GAN的主要变体3.1 DCGAN (Deep Convolutional GAN)3.2 CGAN (Conditional GAN)3.3 CycleGAN3.4 StyleGAN…

群体智能优化算法-流向算法(Flow Direction Algorithm, FDA,含Matlab源代码)

摘要 流向算法(Flow Direction Algorithm, FDA)是一种受流体动力学中流向传播机制启发的新型元启发式优化算法。FDA 通过模拟“信息流”在搜索空间中的扩散方向,并结合局部邻域搜索机制,引导解向全局最优解逼近。该算法具有良好的…

自学-python-基础-注释、数据类型、运算符、判断、循环

这里写自定义目录标题 1. Python简介2. 为什么选择Python?3. 安装Python4. Python的第一个程序5. Python的基本概念6. Python的控制流- 条件语句- 循环 7. Python的函数8. 注释9. 学习资源 从认识Python开始,首先了解它的特点和用途是一个很好的起点。让…

1.4-蜜罐\堡垒机\API接口

1.4-蜜罐\堡垒机\API接口 蜜罐&#xff1a;用来钓鱼或诱惑测试人员的防护系统 bash <(curl -sS -L https://hfish.net/webinstall.sh) # 安装HFISH蜜罐堡垒机&#xff1a; 运维用的&#xff0c;统一管理运维平台;拿下堡垒机就很有可能等于拿下了多个平台 jumpServer一键安…

右值和右值引用【C++】

文章目录 左值引用和右值引用简单介绍左值&#xff1a;右值&#xff1a;左值引用&#xff0c;引用右值右值引用&#xff0c;引用左值为什么强制类型转换之后&#xff0c;右值引用就可以引用左值了呢&#xff1f; 右值引用的作用举个例子理解移动构造和移动赋值的作用&#xff1…

罗杰斯特回归

定义 逻辑回归其实就是原来的线性回归加了激活函数&#xff0c;这个函数其实就是sigmoid函数&#xff0c;把一个回归的连续数值压缩到了0到1的空间&#xff0c;其实只要有函数能够满足把数值压缩到0,1之间就可以&#xff08;因为0到1之间的数值就是概率值&#xff09; 对于分类…

Elasticsearch 高级

Elasticsearch 高级 建议阅读顺序&#xff1a; Elasticsearch 入门Elasticsearch 搜索Elasticsearch 搜索高级Elasticsearch高级&#xff08;本文&#xff09; 1. nested 类型 1.1 介绍 Elasticsearch 中的 nested 类型允许你在文档内存储复杂的数据结构&#xff0c;比如一个…

基于SpringBoot实现的高校实验室管理平台功能四

一、前言介绍&#xff1a; 1.1 项目摘要 随着信息技术的飞速发展&#xff0c;高校实验室的管理逐渐趋向于信息化、智能化。传统的实验室管理方式存在效率低下、资源浪费等问题&#xff0c;因此&#xff0c;利用现代技术手段对实验室进行高效管理显得尤为重要。 高校实验室作为…

leetcode_704. 二分查找_java

704. 二分查找https://leetcode.cn/problems/binary-search/ 1.题目 给定一个 n 个元素有序的&#xff08;升序&#xff09;整型数组 nums 和一个目标值 target &#xff0c;写一个函数搜索 nums 中的 target&#xff0c;如果目标值存在返回下标&#xff0c;否则返回 -1。 示…

python基础学习三(元组及字符串的使用)

文章目录 元组什么是元组元组的创建方式为什么要将元组设计成不可变序列元组的遍历集合集合的相关操作集合操作集合的数学操作集合生成式列表&#xff0c;字典&#xff0c;元组&#xff0c;集合总结 字符串字符串的驻留机制判断字符串的操作方法字符串的比较操作字符串的切片操…

游戏被外挂攻破?金融数据遭篡改?AI反作弊系统实战方案(代码+详细步骤)

一、背景与需求分析 随着游戏行业与金融领域的数字化进程加速,作弊行为(如游戏外挂、金融数据篡改)日益复杂化。传统基于规则的防御手段已难以应对新型攻击,而AI技术通过动态行为分析、异常检测等能力,为安全领域提供了革命性解决方案。本文以游戏反作弊系统和金融数据安…