DolphinScheduler中shell安装脚本说明

DolphinScheduler中有很多经典的Linux shell用法,掌握好了,可以快速提升自己的shell编写能力,如下为对其安装包下的 scp-hosts.sh 脚本的具体解读。

DS版本:3.1.4

scp-hosts.sh 代码清单:

workDir=`dirname $0`
workDir=`cd ${workDir};pwd`source ${workDir}/env/install_env.shworkersGroup=(${workers//,/ })
for workerGroup in ${workersGroup[@]}
doecho $workerGroup;worker=`echo $workerGroup|awk -F':' '{print $1}'`group=`echo $workerGroup|awk -F':' '{print $2}'`workerNames+=($worker)groupNames+=(${group:-default})
donehostsArr=(${ips//,/ })
for host in ${hostsArr[@]}
doif ! ssh -o StrictHostKeyChecking=no -p $sshPort $host test -e $installPath; thenssh -o StrictHostKeyChecking=no -p $sshPort $host "sudo mkdir -p $installPath; sudo chown -R $deployUser:$deployUser $installPath"fiecho "scp dirs to $host/$installPath starting"for i in ${!workerNames[@]}; doif [[ ${workerNames[$i]} == $host ]]; thenworkerIndex=$ibreakfidone# set worker groups in application.yaml[[ -n ${workerIndex} ]] && sed -i "s/- default/- ${groupNames[$workerIndex]}/" $workDir/../worker-server/conf/application.yamlfor dsDir in bin master-server worker-server alert-server api-server ui toolsdoecho "start to scp $dsDir to $host/$installPath"# Use quiet mode to reduce command line outputscp -q -P $sshPort -r $workDir/../$dsDir  $host:$installPathdone# restore worker groups to default[[ -n ${workerIndex} ]] && sed -i "s/- ${groupNames[$workerIndex]}/- default/" $workDir/../worker-server/conf/application.yamlecho "scp dirs to $host/$installPath complete"
done

以下是对这段DolphinScheduler脚本安装代码的逐行解释:

1. 获取脚本所在目录

workDir=`dirname $0`
workDir=`cd ${workDir};pwd`
  • dirname $0$0 代表当前执行的脚本文件名,dirname 命令用于提取文件路径中的目录部分。这行代码获取了当前脚本所在的目录。
  • cd ${workDir};pwd:进入该目录,然后使用 pwd 命令获取该目录的绝对路径,并将其赋值给 workDir 变量。

2. 加载安装环境配置文件

source ${workDir}/env/install_env.sh
  • source 命令用于在当前 shell 环境中执行指定的脚本文件。这里加载了 install_env.sh 文件,该文件通常包含了安装过程中需要使用的环境变量等配置信息。

3. 解析 workers 变量并存储 worker 和 group 信息

workersGroup=(${workers//,/ })
for workerGroup in ${workersGroup[@]}
doecho $workerGroup;worker=`echo $workerGroup|awk -F':' '{print $1}'`group=`echo $workerGroup|awk -F':' '{print $2}'`workerNames+=($worker)groupNames+=(${group:-default})
done
  • workersGroup=(${workers//,/ }):将 workers 变量中的逗号替换为空格,然后将结果存储在数组 workersGroup 中。workers 变量可能是一个以逗号分隔的字符串,每个元素格式为 worker:group
  • for workerGroup in ${workersGroup[@]}:遍历 workersGroup 数组中的每个元素。
  • worker=echo $workerGroup|awk -F’:’ ‘{print $1}’``:使用 awk 命令以冒号为分隔符,提取每个元素的第一部分(即 worker 名称),并将其赋值给 worker 变量。
  • group=echo $workerGroup|awk -F’:’ ‘{print $2}’``:同理,提取每个元素的第二部分(即 group 名称),并将其赋值给 group 变量。
  • workerNames+=($worker):将提取的 worker 名称添加到 workerNames 数组中。
  • groupNames+=(${group:-default}):将提取的 group 名称添加到 groupNames 数组中,如果 group 为空,则使用默认值 default

4. 解析 ips 变量并在远程主机上进行操作

hostsArr=(${ips//,/ })
for host in ${hostsArr[@]}
do
  • hostsArr=(${ips//,/ }):将 ips 变量中的逗号替换为空格,然后将结果存储在数组 hostsArr 中。ips 变量可能是一个以逗号分隔的远程主机 IP 地址或主机名列表。
  • for host in ${hostsArr[@]}:遍历 hostsArr 数组中的每个主机。

5. 检查远程主机上的安装路径是否存在,若不存在则创建

  if ! ssh -o StrictHostKeyChecking=no -p $sshPort $host test -e $installPath; thenssh -o StrictHostKeyChecking=no -p $sshPort $host "sudo mkdir -p $installPath; sudo chown -R $deployUser:$deployUser $installPath"fi
  • ssh -o StrictHostKeyChecking=no -p $sshPort $host test -e $installPath:使用 ssh 命令连接到远程主机,检查 $installPath 目录是否存在。-o StrictHostKeyChecking=no 选项用于跳过 SSH 密钥验证,-p $sshPort 指定 SSH 端口号。
  • 如果目录不存在,则执行 sudo mkdir -p $installPath; sudo chown -R $deployUser:$deployUser $installPath 命令,在远程主机上创建该目录,并将其所有权赋予 $deployUser 用户和组。

6. 查找当前主机对应的 worker 索引

  echo "scp dirs to $host/$installPath starting"for i in ${!workerNames[@]}; doif [[ ${workerNames[$i]} == $host ]]; thenworkerIndex=$ibreakfidone
  • echo "scp dirs to $host/$installPath starting":输出提示信息,表示开始将目录复制到远程主机的安装路径。
  • for i in ${!workerNames[@]}:遍历 workerNames 数组的索引。
  • if [[ ${workerNames[$i]} == $host ]]:检查当前索引对应的 worker 名称是否与当前主机名相同,如果相同,则将该索引赋值给 workerIndex 变量,并跳出循环。

7. 修改 worker-server 配置文件中的 group 信息

  [[ -n ${workerIndex} ]] && sed -i "s/- default/- ${groupNames[$workerIndex]}/" $workDir/../worker-server/conf/application.yaml
  • [[ -n ${workerIndex} ]]:检查 workerIndex 变量是否为空。
  • 如果不为空,则使用 sed 命令在 $workDir/../worker-server/conf/application.yaml 文件中,将 - default 替换为 - ${groupNames[$workerIndex]}

8. 将目录复制到远程主机

  for dsDir in bin master-server worker-server alert-server api-server ui toolsdoecho "start to scp $dsDir to $host/$installPath"# Use quiet mode to reduce command line outputscp -q -P $sshPort -r $workDir/../$dsDir  $host:$installPathdone
  • for dsDir in bin master-server worker-server alert-server api-server ui tools:遍历需要复制的目录列表。
  • scp -q -P $sshPort -r $workDir/../$dsDir $host:$installPath:使用 scp 命令将本地的 $dsDir 目录递归复制到远程主机的 $installPath 目录下。-q 选项用于安静模式,减少命令行输出。

9. 恢复 worker-server 配置文件中的 group 信息

  [[ -n ${workerIndex} ]] && sed -i "s/- ${groupNames[$workerIndex]}/- default/" $workDir/../worker-server/conf/application.yaml
  • 与步骤 7 类似,将 application.yaml 文件中的 - ${groupNames[$workerIndex]} 恢复为 - default

10. 输出复制完成提示信息

  echo "scp dirs to $host/$installPath complete"
done
  • echo "scp dirs to $host/$installPath complete":输出提示信息,表示将目录复制到远程主机的安装路径完成。

综上所述,这段脚本的主要功能是将 DolphinScheduler 的相关目录复制到多个远程主机的指定安装路径,并根据配置信息修改 worker-server 的配置文件。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/39260.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ElementUI时间选择、日期选择

如大家所发现的,由于ElementUI 时间选择器,日期选择器,时间日期选择器点击清除按钮时,v-model 所绑定的属性值会变成 null,所以当使用 ElementUI 时间选择器,日期选择器,时间日期选择器 时&…

一篇文章入门Python Flask框架前后端数据库开发实践(pycharm在anaconda环境下)

Python Flask 是一个轻量级的 Web 应用框架,也被称为微框架。它以简洁、灵活和易于上手的特点而受到开发者的喜爱。 核心特点 轻量级:Flask 核心代码简洁,仅包含 Web 开发的基本功能,不强制使用特定的数据库、模板引擎等&#xf…

ctfshow WEB web2

1.查当前数据库名称 or 11 union select 1,database(),3 limit 1,2;#-- 得到数据库名称web2 2.查看数据库表的数量 or 11 union select 1,(select count(*) from information_schema.tables where table_schema web2),3 limit 1,2;#-- 得到数据库表数量为2 3.查表的名字 第…

【Git】--- 分支管理

Welcome to 9ilks Code World (๑•́ ₃ •̀๑) 个人主页: 9ilk (๑•́ ₃ •̀๑) 文章专栏: Git 本篇博客我们来介绍Git的一个重要功能之一 ---- 分支。我们将讲解关于分支的各种操作,以及如何帮助我们进行开发。 🏠 理解分支…

系统思考与心智模式

“问题不是出在我们做了多少,而是出在我们做了什么。” — 赫尔曼凯恩 “一分耕耘一分收获”,这似乎是我们脑海中根深蒂固的心智模式。今天,我在一家餐厅用餐,店员告诉我,打卡收藏可以获得一份小食。没过多久&#xf…

纯文本驱动的数据可视化革命——AI生成图表「图表狐」全场景深度解析

一、技术架构重定义 图表狐核心能力边界 ✅ 纯文本输入:支持任意格式文字描述(会议纪要/邮件/手写笔记) ✅ 智能解析引擎: 实体识别(数值/时间/分类维度) 语义纠错(自动修复错别字/单位混乱&…

多线程 --- 进程和线程的基本知识

进程 前面我们提到了一个概念是,多任务操作系统,即希望该系统能够同时运行多个程序。本质上说,进程,就算用来解决”并发编程“这样的问题的。 在一些特定的情况下,进程的表现,其实并不能很好的解决”并发…

SCI英文论文Accepted后的第一步——Rights and Access

SCI英文论文Accepted后的第一步——Rights and Access 目录 SCI英文论文Accepted后的第一步——Rights and AccessBased on information provided the embargo period/end date is 24 months. 因为选择闭源**Rights and Access(版权与访问权限)**环节是关键第一步,具体操作流…

流程控制语句

python中的流程控制语句有三种,顺序结构、条件结构和循环结构 1)顺序结构: 从上往下,从左到右,依次逐行执行。 #顺序结构python print(start) print(hello world1 ) print(hello world2 ) print(hello world3 ) pri…

2.4 关键路径法

项目进度管理核心工具全解析 🚀 一、关键路径法(CPM)精要 1. 核心概念图解 #mermaid-svg-5MOABZm9lR8A53ss {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-5MOABZm9lR8A53ss .e…

Unity 实现一个简易可拓展性的对话系统

本人能力有限,一切实现仅供参考,如有不足还请斧正 起因是我看到学校社团内有人做了对话系统的分享,我想了想之前没写过这种东西,而Fungus插件教程太老了,NodeCanvas插件学习成本又比较高,我就干脆寻找资料 加上自己迭代一下,花了一天时间完成了这个对话系统 目录 1.介绍 2.核…

架构思维:通用系统设计方法论_从复杂度分析到技术实现指南

文章目录 Question订单履约原始架构痛点目标架构架构图说明关键设计点优点 设计方法论复杂来源解决方案评估标准从设计原则出发 技术实现 (以选型Redis为例)Redis消息队列的实现细节高可用设计 总结 Question 我们经常聊如何设计一个比较完善的系统&…

llama源码学习·model.py[7]Transformer类

一、源码展示 class Transformer(nn.Module):def __init__(self, params: ModelArgs):super().__init__()self.params paramsself.vocab_size params.vocab_sizeself.n_layers params.n_layersself.tok_embeddings VocabParallelEmbedding(params.vocab_size, params.dim,…

MD2Card(markdown)

MD2Card 介绍: 1.小红书爆款神器,Markdown笔记秒转高颜值卡片 2.实时预览15种主题,自动拆长文,图片/SVG导出即用 3.零门槛不登录,免费无限生成,专治排版废和设计手残党 网站地址: https://md2…

第二节第一部分:String字符串

一、导包 二、String字符串 三、String注意事项 四、字符串的比较 五、面试例题 六、String案例一 需求分析: 代码: package com.StringTest;import java.util.Scanner;public class StingTest {public static void main(String[] args) {//1.开发一个…

动态规划(01背包恰好装满型详解):和为目标值的最长子序列长度

0-1背包:有n个物品,第i个物品的体积为w[i],价值为v[i],每个物品至多选择一个,求体积和不超过capacity的最大价值和。 对于第i个物品,我们只有两种选择:选,或者不选。如果选&#xf…

Spring漏洞再现

一、CVE-2017-8046 1、开环境 2、访问目录 /customers/1 3、在当前页抓包,并修改数据包 PATCH /customers/1 HTTP/1.1 Host: 150.158.199.164:8080 Accept-Encoding: gzip, deflate Accept: */* User-Agent: Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1;…

Ftrans飞驰云联受邀参加“2025汽车零部件CIO年会“并荣获智象奖

2025年3月6日,由栖观汽车、栖观资讯和飞羽商务主办的“2025第二届中国汽车&零部件CIO年会暨智象奖颁奖盛典”于上海盛大召开,Ftrans飞驰云联作为国内领先的企业文件传输与数据交换解决方案提供商,受邀出席了年会,并凭借卓越的…

西门子 CPU 1513-1 PN TCP Server 接收字符串前多了一个问号

TIA V17编程环境中(CPU 1513-1 PN),调用TSEND_C以TCP协议向TCP Server发送字符串:abded1234,TCP Server接收到的字符串多了一个问号:?avded1234. TSEND_C 指令的 DATA DB为非优化string类型数据 截图如下: 字符串前面两个字节不是起始字符,第一个是字节是字符串最大长度…

Matlab2024a免费版下载教程

Matlab是一个高性能的数学计算与仿真软件,广泛应用于科学计算、数据分析、算法开发以及工程绘图等多个领域。它提供了强大的矩阵运算能力、丰富的内置函数库以及灵活的编程环境,使得用户能够高效地解决复杂的数学问题。本文,我将为大家详细介…