大模型部署,运维,测试所需掌握的知识点

python环境部署:
python3 -m site --user-base                                                            返回用户级别的Python安装基础目录
sudo update-alternatives --install /usr/bin/python3 python3 /usr/bin/python3.8 1    将python3的默认路径/usr/bin/python3替换为/usr/bin/python3.8
sudo update-alternatives --config python                                            列出当前所有可用的Python版本
python3 --version                                                                    查看python版本
python3 -m ensurepip                                                                  安装pip3
python3 -m pip install --upgrade pip                                                
sudo python3 -m pip install --upgrade pip  -i   https://artnj.zte.com.cn/artifactory/api/pypi/public-pypi-virtual/simple       管理员权限中兴镜像下载安装pip3 // python安装库时使用的镜像源
python3 -m site --user-base                                                            查找pip3的安装位置
export PATH="$PATH:/home/yourusername/.local/bin"                                    将pip3添加到PATH:
pip3 --version                                                                        验证pip3是否可用:
python -m venv venv                                                                    创建一个venv的虚拟环境:
venv\Scripts\activate                                                                windows激活虚拟环境(venv):
source venv/bin/activate                                                            linux激活虚拟环境(venv):
deactivate                                                                            退出虚拟环境:

git常用命令:
git stash
git pull origin dev --rebase    
git stash apply
git add .
git commit -m "[keyword](A):             优化:模型市场-导入模型商品(本地导入),大模型仓库-大模型仓库sftp导入模型"
git push origin HEAD:refs/for/dev  
 
cd  .git    
git reset --soft HEAD^                  用于撤销最后一次提交,但保留该提交所做的更改在暂存区(staging area)中
git checkout xxx                        切换分支
git config --list                          查看git的配置列表    
git branch -d xxx                        删除分支
git checkout dev                        切换至dev分支
git pull origin dev --rebase            更新dev分支
git checkout -b xxx                        创建自己的分支
git stash apply stash@{1}                  应用指定分支
git stash apply                         应用最新分支


k8s及容器常用命令:
node>deploy>pod
/home/pict/nodecheck                  查询节点占用情况  要su     RCms@Zte3
kubectl get pv                        获取pv信息
kubectl get pvc                        获取pvc信息
kubectl get cm                        获取configMap信息
kubectl get rs                        获取ReplicaSet控制器信息
kubectl get sts                        获取statefulSet控制器信息
kubectl get sa                        获取serviceaccount信息
kubectl get svc                        获取默认命名空间的service
kubectl get svc -n ingress-nginx     获取指定命名空间为ingress-nginx的service
kubectl get secrets                 获取secrets信息
kubectl get sts                        获取statefulSet控制器信息
kubectl get node -o wide            查询node详细信息
kubectl get pods -n litmus             查询litmus(zchaos集群)下的pod
kubectl get deploy -n litmus        查询litmus下的deploy(控制器)
kubectl edit rs myapp                 修改ReplicaSet控制器的yaml清单内容
kubectl exec -it myapp-lmj45 -- /bin/sh                                                进入pod内的容器
kubectl exec -it myapp-lmj45 -c myapp-container sh                                    进入pod内指定容器
kubectl logs myapp-lmj45 --tail 300 -f                                                查看pod内的容器日志
kubectl explain pod                                                                    显示各种资源清单的字段解释
kubectl rollout                                                                        滚动更新
kubectl cluster-info                                                                查看集群信息
kubectl uncordon node2                                                                标记节点为可调度节点
kubectl api-resources                                                                查看k8s支持的资源类型
kubectl api-resources --api-group=storage.k8s.io                                     查看指定群组支持的资源类型
kubectl rollout pause deployment myapp-deploy                                        更新一个pod后暂停更新
kubectl describe pod podname | grep Node                                             可查看pod运行在哪个节点上
kubectl rollout resume deployment myapp-deploy                                        解除暂停状态,继续更新
kubectl rollout status deployment myapp-deploy                                        监控deployment更新状态
kubectl scale sts myapp --replicas=2                                                Kubernetes 将会确保 myapp StatefulSet 有 2 个 Pod 副本处于运行状态
kubectl set image deployment myapp-deploy myapp=ikubernetes/myapp:v3                修改deployment的镜像版本
kubectl cordon node2                                                                标记节点为不可调度节点
kubectl delete deploy xxx -n aistudio                                                  删除deploy
kubectl delete pod xxx -n aistudio                                                  删除pod
kubectl describe  pod   dep2411051954400192fc2d4f86-7f44f44958-7pkfj -n aistudio      查看推理pod详情
kubectl describe  deploy   dep241107162656019305bbd54c    -n aistudio                 查询推理deploy详情
kubectl label pods pod-demo release=canary                    给一个pod打一个没有存在的标签key=value    
kubectl label pods pod-demo release=stable --overwrite        给一个pod已经存在的标签重新赋值
kubectl label nodes node1 disktype-                            通过key删除标签
kubectl delete svc redis                                     删除service
kubectl get pods -A                                          获取所有namespace的Pod信息
kubectl get pods --show-labels                                获取Pod的labels
kubectl get pods -L apps,run                                 查看所有pod对于指定标签的key是否有value,有则显示,没有则空白
kubectl get pods -l apps --show-labels                         获取含有指定标签key的pod
kubectl get namespaces kube-system -o json                    获取指定namespace名为kube-system的json格式信息
kubectl get pg -A                                            查看环境上所有组织下申请GPU资源的任务情况


docker常用命令:
docker ps            列出容器    
docker run            创建并启动容器
docker create        创建容器(不启动)
docker start        启动容器
docker stop            停止容器
docker restart        重启容器
docker rm            删除容器
docker inspect        查看容器详情

linux常用命令总结(要保持英文状态下输入命令):
scp -r /path/to/local/directory username@remotehost:/path/to/remote/directory                      复制将本地目录及其内容复制到远程主机上(-r递归)
rcp root@218.6.132.5:./testfile testfile                                                        复制远程文件到本地    
curl -k -X GET -H "OPENSTACK_REQUEST:internal" http://127.0.0.1:19393/v1/external_ftp_server    查询FTP的地址
cd ..                                                                                                返回上级目录
pwd                                                                                             查看当前文件路径
cat filename | tail -n 10                                                                        显示文件 filename 的最后 10 行
cat -n filename                                                                                    显示文件 filename 的内容,并在每行的前面加上行号
chown root /var/run/httpd.pid                                                                    把 /var/run/httpd.pid 的所有者设置 root
diff log2014.log log2013.log                                                                    比较log2014.log ,log2013.log两个文件
find . -name file.txt                                                                            查找当前目录下名为 file.txt 的文件
find /var/log -mtime +7                                                                            查找 /var/log 目录下在 7 天前修改过的文件
find /home -size +1M                                                                            查找 /home 目录下大于 1MB 的文件
find /path/to/search -atime -7                                                                    查找过去 7 天内被访问的文件
sudo systemctl restart containerd                                                               重启容器服务
nvidia-smi                                                                                         查看GPU信息
brsmi                                                                                            查看GPU信息
du -sh                                                                                           显示指定目录或当前目录的总磁盘使用量
df -h                                                                                             查看磁盘使用量
top                                                                                              显示容器内部的实时 CPU 和内存使用情况。
find /var -type f -name "log.txt"                                                               查找 /var 目录下所有名为 log.txt 的文件 
locate log.txt                                                                                   数据库来快速查找文件
grep -R "error" /home/*.log                                                                      搜索文本内容 
which ls                                                                                          查找可执行文件的位置
ls *.log                                                                                        列出当前目录下所有以 .log 结尾的文件
find /var/log -type f -exec grep "error" {} \                                                     查找 /var/log 目录下所有包含 "error" 文本的文件
tail -f tcf_deploy_ccm_tcf_8d1bb00a-f6ee-4c23-a940-a1e0ba81935d.log                               用于实时查看并跟踪日志文件的最新内容  
touch file                                                                                         创建一个名为“file”的新的空白文件
mv aaa bbb                                                                                        将文件 aaa 改名为 bbb
which bash                                                                                        "which"查看指令"bash"的绝对路径
cp –r test/ newtest                                                                              将当前目录 test/ 下的所有文件复制到新目录 newtest 下
cp –r test newtest                                                                                将test文件复制到新目录 newtest 下
mv /usr/runoob/*  .                                                                             将 /usr/runoob 下的所有文件和目录移到当前目录下
rm  -rf   test.txt                                                                                删除文件名 test.txt
ln -s log2013.log link2013                                                                         给文件创建软链接,为log2013.log文件创建软链接link2013,如果log2013.log丢失,link2013将失效
nc -nvv 192.168.0.1 80                                                                            扫描 80端口
kill -15                                                                                        优雅停机
kill -9 -PID                                                                                    杀死进程组
kill -l                                                                                         列出所有可用信号
kill -s SIGSTOP 1234                                                                            向 PID 为 1234 的进程发送 SIGSTOP
ps -ef | grep pidname                                                                            查询指定pid进程名
shutdown -h 10                                                                                    指定 10 分钟后关机
shutdown -r now                                                                                    重新启动计算机
free                                                                                            显示内存使用信息
free -s 10                                                                                        每10s 显示内存使用信息
clear                                                                                            清屏
fdisk -l                                                                                        显示当前分区情况

vi + filename             打开文件,并将光标置于最后一行首
Ctrl+f                    向文件尾翻一屏
i                         在光标前插入(文本模式)
dd                        删除当前行
yy                        复制当前行
Esc                        退出插入模式,返回到命令模式
:w                        保存文件
:q                        不保存文件并退出vi
:wq 或 :x                保存文件并退出vi。
ZZ                         修改文件后退出。    
Ctrl+z回车                退出

tar -czvf 文件名.tar.gz 目录/ 或 tar -czvf 文件名.tgz 目录/             创建 .tar.gz 或 .tgz 压缩文件                
zip -r 文件名.zip 目录/                                             创建 .zip 压缩文件
tar -xzvf 文件名.tar.gz 或 tar -xzvf 文件名.tgz                     解压缩 .tar.gz 或 .tgz 文件
unzip 文件名.zip                                                     解压缩 .zip 文件

yum check-update                                                 列出所有可更新的软件清单
yum update                                                         更新所有软件命令
yum list                                                         列出所有可安裝的软件清单
yum remove <package_name>                                         删除软件包
yum search <keyword>                                             查找软件包
yum clean packages                                                 清除缓存目录下的软件包
yum clean headers                                                 清除缓存目录下的 headers

sudo apt update                                                     列出所有可更新的软件清单
sudo apt upgrade                                                 升级软件包
apt list --upgradable                                             列出可更新的软件包及版本信息
apt list --installed                                             列出所有已安装的包
sudo apt autoremove                                                 清理不再使用的依赖和库文件
sudo apt remove <package_name>                                     删除软件包命令

re正则表达式命令:
[ABC]                                                                                            匹配 [...] 中的所有字符,例如 [aeiou] 匹配字符串 "google runoob taobao" 中所有的 aeiou字母
[^ABC]                                                                                            匹配除了 [...] 中字符的所有字符,例如 [^aeiou] 匹配字符串 "google runoob taobao" 中除了 aeiou 字母的所有字符
[A-Z]                                                                                            [A-Z] 表示一个区间,匹配所有大写字母,[a-z] 表示所有小写字母
.                                                                                                匹配除换行符(\n、\r)之外的任何单个字符,相等于 [^\n\r]
[\s\S]                                                                                            匹配所有。\s 是匹配所有空白符,包括换行,\S 非空白符,不包括换行
\w                                                                                                匹配字母、数字、下划线。等价于 [A-Za-z0-9_]
\d                                                                                                匹配任意一个阿拉伯数字(0 到 9)。等价于 [0-9]
\cx                                                                                                匹配由x指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符
\f                                                                                                匹配一个换页符。等价于 \x0c 和 \cL
\n                                                                                                匹配一个换行符。等价于 \x0a 和 \cJ    
\r                                                                                                匹配一个回车符
\s                                                                                                匹配任何空白字符,包括空格、制表符、换页符等等
\S                                                                                                匹配任何非空白字符。等价于 [^ \f\n\r\t\v]
\t                                                                                                匹配一个制表符。等价于 \x09 和 \cI
\v                                                                                                匹配一个垂直制表符。等价于 \x0b 和 \cK
$                                                                                                匹配输入字符串的结尾位置
*                                                                                                匹配前面的子表达式零次或多次。要匹配 * 字符,请使用 \*
+                                                                                                匹配前面的子表达式一次或多次。要匹配 + 字符,请使用 \+。
^                                                                                                匹配输入字符串的开始位置,除非在方括号表达式中使用,当该符号在方括号表达式中使用时,表示不接受该方括号表达式中的字符集合
^(0|[1-9][0-9]*)$                                                                                匹配零和非零开头的数字,匹配输入字符串的结束位置


     
    

    
    
     


    


        
        


 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/477081.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

IDEA 2024.3 版本更新主要功能介绍

IDEA 2024.3 版本提供的新特性 IntelliJ IDEA 2024.3 的主要新特性&#xff1a; AI Assistant 增强 改进的代码补全和建议更智能的代码分析和重构建议Java 支持改进 支持 Java 21 的所有新特性改进的模式匹配和记录模式支持更好的虚拟线程调试体验开发工具改进 更新的 UI/UX 设…

Java编程,配置mongoUri连接mongodb时,需对特殊字符进行转义

一、背景 java程序连接mongo有两种方式&#xff1a; 用户名和密码方式uri方式 1、用户名和密码 以用户数据库为例&#xff0c;注意看它的密码 spring:data:mongodb:host: 192.168.10.17database: db_user_serviceport: 3717username: user_servicepassword: user_service3…

学习笔记|MaxKB对接本地大模型时,选择Ollma还是vLLM?

在使用MaxKB开源知识库问答系统的过程中&#xff0c;除了对接在线大模型&#xff0c;一些用户出于资源配置、长期使用成本、安全性等多方面考虑&#xff0c;还在积极尝试通过Ollama、vLLM等模型推理框架对接本地离线大模型。而在用户实践的过程中&#xff0c;经常会对候选的模型…

Python 快速入门(上篇)❖ Python基础知识

Python 基础知识 Python安装**运行第一个程序:基本数据类型算术运算符变量赋值操作符转义符获取用户输入综合案例:简单计算器实现Python安装** Linux安装: yum install python36 -y或者编译安装指定版本:https://www.python.org/downloads/source/ wget https://www.pyt…

【1.2 Getting Started--->Installation Guide】

NVIDIA TensorRT DOCS 此 NVIDIA TensorRT 10.6.0 安装指南提供安装要求、TensorRT 包中包含的内容列表以及安装 TensorRT 的分步说明。 安装指南 摘要&#xff1a; 本 NVIDIA TensorRT 10.3.0 安装指南提供了安装要求、TensorRT 软件包中包含的内容列表以及安装 TensorRT 的…

RT_Thread内核源码分析(三)——线程

目录 1. 线程结构 2. 线程创建 2.1 静态线程创建 2.2 动态线程创建 2.3 源码分析 2.4 线程内存结构 3. 线程状态 3.1 线程状态分类 3.2 就绪状态和运行态 3.3 阻塞/挂起状态 3.3.1 阻塞工况 3.4 关闭状态 3.4.1 线程关闭接口 3.4.2 静态线程关闭 3.4.3 动态线程关…

Unity图形学之CubeMap立方体贴图

1.CubeMap&#xff1a;有六个面的贴图组成 2. 假反射&#xff1a;反射天空盒子 &#xff08;1&#xff09;正常UV采样&#xff1a; &#xff08;2&#xff09;Cube的采样&#xff1a;利用反射角采样&#xff0c;反射角X和Cube的交点采样 Shader "Custom/TestReflect"…

C语言基础学习:抽象数据类型(ADT)

基础概念 抽象数据类型&#xff08;ADT&#xff09;是一种数据类型&#xff0c;它定义了一组数据以及可以在这组数据上执行的操作&#xff0c;但隐藏了数据的具体存储方式和实现细节。在C语言中&#xff0c;抽象数据类型&#xff08;ADT&#xff09;是一种非常重要的概念&…

Qt-多元素控件

Qt中的多元素控件 Qt提供的多元素控件有&#xff1a; 这里的多元素控件都是两两一对的。 xxWidget和xxView的一个比较简单的理解就是&#xff1a; xxView是更底层的实现&#xff0c; xxWidget是基于xxView封装来的。 可以说&#xff0c;xxView使用起来比较麻烦&#xff0c;但…

2023年9月GESPC++一级真题解析

一、单选题&#xff08;每题2分&#xff0c;共30分&#xff09; 题号 123456789101112131415 答案 CDBCDBACACBBDDA 1. 我们通常说的 “ 内存 ” 属于计算机中的&#xff08;&#xff09;。 A. 输出设备 B. 输 ⼊ 设备 C. 存储设备 D. 打印设备 【答案】 C 【考纲知识点】…

wend看源码-APISJON

项目地址 腾讯APIJSON官方网站 定义 APIJSON 可以定义为一个面向HTTP 协议的JSON 规范&#xff0c;一个面向数据访问层的ORM 框架。其主要工作流程包括&#xff1a;前端按照既定格式组装 JSON 请求报文&#xff0c;通过 APIJSON-ORM 将这些报文直接转换为 SQL 语句&#xff0c…

VMware虚拟机Ubuntu桥接模式突然连接不上网络解决办法

在Linux环境进行开发时突然发现虚拟机中的Ubuntu突然连接不上网络&#xff0c;图形化界面也找不到有线连接选项。在此记录解决办法。 解决办法 1. 在终端命令行输入以下命令&#xff1a; sudo service network-manager stop2. 然后编辑以下文件将其中NetworkingEnable fals…

丹摩征文活动|摩智算平台深度解析:Faster R-CNN模型的训练与测试实战

目录 文章前言Faster R-CNN的简介Faster RCNN的训练与测试提前准备1.1 mobaxterm&#xff08;远程连接服务器&#xff09;1.2 本文的源码下载 目标检测模型 Faster-Rcnn2.1云服务器平台 数据上传内置JupyterLab的使用本地连接使用DAMODEL实例获取实例的SSH访问信息通过SSH连接通…

【数据结构】归并排序 —— 递归及非递归解决归并排序

归并排序 一、归并排序1、归并排序的思想2、归并排序代码实现&#xff08;递归&#xff09;<1> 归并排序的递归区间<2> 归并排序的稳定性<3> 拷贝 3、归并排序代码实现&#xff08;非递归&#xff09;<1> 循环区间溢出问题 二、总结 一、归并排序 1、…

调大Vscode资源管理器字体

对于调整资源管理器字体大小&#xff08;也就是下图红框&#xff09;&#xff0c;查找了网上很多方法。要么介绍的方法是调整了代码字体&#xff0c;要么是调节了终端字体&#xff0c;要么是通过整体放缩实现的调整&#xff0c;总之都不合适。 唯一的调整方法是在几篇CSDN里看到…

【Linux】-学习笔记04

第十二章、磁盘管理 1.查看磁盘空间使用量 1.1df命令 作用&#xff1a; 列出文件系统的磁盘空间占用情况 df&#xff0c;disk free&#xff0c;通过文件系统来快速获取空间大小的信息&#xff0c;当我们删除一个文件的时候&#xff0c;这个文件 不是马上就在文件系统当中消…

centos 服务器 docker 使用代理

宿主机使用代理 在宿主机的全局配置文件中添加代理信息 vim /etc/profile export http_proxyhttp://127.0.0.1:7897 export https_proxyhttp://127.0.0.1:7897 export no_proxy"localhost,127.0.0.1,::1,172.171.0.0" docker 命令使用代理 例如我想在使用使用 do…

Vue中Select选择器el-option实现动态多选

效果如图&#xff1a; 前端列表块显示部分&#xff1a; <el-table :data"tableData" border stripe :header-cell-class-name"headerBg" selection-change"handleSelectionChange"><el-table-column type"selection" width…

【ubuntu24.04.1最简洁安装方案】

我的电脑配置&#xff1a; 128GB固态硬盘&#xff0c;1TB 机械硬盘&#xff0c;我把整个 windows 系统全噶掉了&#xff0c;只安装ubuntu24.04.1一个Linux系统噶windows系统&#xff0c; 推荐使用 DiskGenius这个工具&#xff0c;好用&#xff0c;但是也要弄明白了再用啊&#…

k8s集群加入node节点为ubuntu 22.04

文章目录 1.环境准备1.1 关闭无用服务1.2 环境和网络1.3 apt源1.4 系统优化 2. 装containerd3. 接入k8s集群3.1 kubelet、kubeadm、kubectl安装3.2 缺少一个镜像3.3 接入k8s集群 4. 一些相关问题 1.环境准备 rootcto-gpu-pro-n01:~# lsb_release -a No LSB modules are availa…