前言

在前面的kubernetes系列博文中我们分享了从创建kubernetes集群到各种中间件的安装，以及从springboot项目的容器化部署到kubernetes外网映射，基本上包含了从0到1的K8S基础实战的整个过程。今天我们再分享一期采用jenkins pipeline实现自动构建并部署至k8s的实战演示，各位大大敬请鉴赏。

本文中采用jenkins pipeline执行整个jenkins的构建过程，在pipeline中使用docker执行maven构建。构建后通过dockerfile将jar包构建为docker镜像，并上传到阿里云仓库。然后执行deployment部署到k8s集群。

部署jenkins

这里采用docker的方式部署jenkins。

编写docker-compose-jenkins.yaml

[root@master app]# mkdir -p jenkins/jenkins_home
[root@master app]# mkdir -p jenkins/jenkins_config
[root@master app]# vim docker-compose-jenkins.yaml

version: '3'
services:jenkins:image: registry.cn-hangzhou.aliyuncs.com/senfel/jenkins:2.346.3-2-centos7-jdk8container_name: jenkinsrestart: unless-stopped  #指定容器退出后的重启策略为始终重启，但是不考虑在Docker守护进程启动时就已经停止了的容器volumes:- "/usr/bin/docker:/usr/bin/docker"- "/var/run/docker.sock:/var/run/docker.sock"- "/usr/lib64/libltdl.so.7:/usr/lib/x86_64-linux-gnu/libltdl.so.7"- "./jenkins/jenkins_home:/var/jenkins_home"- "./jenkins/jenkins_config:/var/jenkins_config"environment:TZ: Asia/ShanghaiLANG: en_US.UTF-8JAVA_OPTS: '-Xmx2048M -Xms2048M -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:MaxNewSize=128m -Djava.util.logging.config.file=/var/jenkins_home/log.properties -Duser.timezone=Asia/Shanghai'user: rootports:- "10000:8080"

配置maven源

创建maven配置文件目录
[root@master app]# mkdir -p jenkins/jenkins_home/appconfig/maven
新增settings.xml
[root@master app]# vim jenkins/jenkins_home/appconfig/maven/settings.xml

<?xml version="1.0" encoding="UTF-8"?>
<settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd"><pluginGroups></pluginGroups><proxies></proxies><servers></servers><mirrors><mirror><id>nexus-aliyun</id><mirrorOf>central</mirrorOf><name>Nexus aliyun</name><url>http://maven.aliyun.com/nexus/content/groups/public</url></mirror></mirrors><localRepository>/root/.m2</localRepository><profiles><profile><id>jdk-1.8</id><activation><jdk>1.8</jdk></activation><properties><maven.compiler.source>1.8</maven.compiler.source><maven.compiler.target>1.8</maven.compiler.target><maven.compiler.compilerVersion>1.8</maven.compiler.compilerVersion></properties></profile></profiles>
</settings>

启动jenkins

[root@master app]# docker-compose -f docker-compose-jenkins.yaml up -d
访问 http://10.10.22.91:10000地址，等待出现下面解锁界面。

解锁jenkins

[root@master app]# cat jenkins/jenkins_home/secrets/initialAdminPassword
ea87fa2fb6b34e8a8415e6c3c6dc6658
解锁jenkins后，在界面中选择“安装建议的插件”并重启

Jenkins默认插件及git、镜像仓库、k8s凭证配置

host key verification configuration修改为不验证

Gitee ssh

创建用户名密码类型的github代码仓库凭证，ID为git

进入容器创建rsa
[root@master app]# docker exec -it b33560517ea0 bash
$ ssh-keygen -t rsa -C senfel123@sina.cn
后续步骤全部enter

查看公匙并配置在gitee ssh
$ cat /root/.ssh/id_rsa.pub

查看私匙并记住后面jenkins创建流水线配置凭证
$ cat /root/.ssh/id_rsa

ssh username with private key

阿里云镜像仓库ssh

创建用户名密码类型的aliyun registry镜像仓库凭证，ID为aliyun
username with password

编写pipeline安装以下常用插件

确认Pipeline、Docker Pipeline、
Pipeline: GitHub Groovy Libraries、Pipeline: Stage View Plugin （按照了pipeline默认就有）
Gitee plugin（我的git仓库是阿里云的，其他的可以按照GitLab）
是否已经安装

将kubectl命令文件拷贝到jenkins容器

[root@master ~]# find / -name kubectl
[root@master ~]# docker cp /usr/bin/kubectl jenkins:/usr/bin

将k8s集群配置文件拷贝到jenkins

[root@master ~]# docker cp /root/.kube jenkins:/root/.kube
#进入jenkins容器增加config文件执行权限
[root@master ~]# docker exec -it jenkins bash
[root@9c4198ba00e7 .kube]# chmod +x config

准备java示例工程

java工程自行准备一个springboot项目即可，这里重点是在项目根目录下新增Dockerfile、deployment.yaml、Jenkinsfile。

准备Dockerfile

# version 1.0
# 基础镜像
FROM openjdk:8-jre
# 维护人
MAINTAINER senfel<187@sina.cn>
# 创建目录
RUN mkdir -p /home/app
# 拷贝项目jar
COPY ./target/k8s-demo-0.0.1-SNAPSHOT.jar /home/app/app.jar
# 执行命令启动jar
ENTRYPOINT ["java","-jar","/home/app/app.jar"]
# 暴露端口
EXPOSE 8888

添加k8s的deployment.yaml配置

apiVersion: apps/v1
kind: Deployment # 声明一个Deployment资源对象
metadata:name: deployment-k8s-demo
spec:replicas: 3 # 通过replicas声明pod个数是3selector:   # 通过标签选择被控制的podmatchLabels:app: k8s-demotemplate:   # 在template中定义podmetadata:labels: # 给pod打上标签app=k8s-demoapp: k8s-demospec:containers:- name: k8s-demo  # 声明容器名称，注意不是pod名称，pod名称应该定义在metadata中image: k8s-demo-imageports:- name: httpcontainerPort: 8888
--- # 在一个yaml文件中通过---分割多个资源对象
apiVersion: v1
kind: Service # 声明一个Service资源对象
metadata:name: service-k8s-demo
spec:type: NodePortselector: # service-k8s-demo将选择标签包含app=k8s-demo的podapp: k8s-demoports:- name: httpport: 8888  # Service监听端口targetPort: 8888 # 转发到后端Pod的端口号protocol: TCP # tcp协议nodePort: 30888 # 外网访问端口，范围：30000-32767

添加Jenkinsfile

pipeline{agent anyenvironment {WS = "${WORKSPACE}"REGISTRY= "registry.cn-hangzhou.aliyuncs.com"IMAGE_NAME = "registry.cn-hangzhou.aliyuncs.com/senfel/k8s-demo:${env.BUILD_ID}"K8S_NAMESPACE = "default"}//定义流水线的加工流程stages {//流水线的所有阶段stage('step1:env check'){steps {sh 'pwd && ls -alh'sh 'printenv'sh 'docker version'sh 'java -version'sh 'git --version'}}stage('step2:compile'){agent {docker {image 'maven:3-alpine'args '-v maven-repository:/root/.m2'}}steps {sh 'pwd && ls -alh'sh 'mvn -v'sh 'cd ${WS} && mvn clean package -s "/var/jenkins_home/appconfig/maven/settings.xml" -Dmaven.test.skip=true'}}stage('step3:build image'){steps {sh 'pwd && ls -alh'sh 'docker build -t ${IMAGE_NAME} .'}}stage('step4:push image'){steps {withCredentials([[$class: 'UsernamePasswordMultiBinding',credentialsId: 'aliyun',usernameVariable: 'REGISTRY_USERNAME',passwordVariable: 'REGISTRY_PASSWORD']]) {sh """docker login -u ${REGISTRY_USERNAME} -p ${REGISTRY_PASSWORD} ${REGISTRY}docker push ${IMAGE_NAME}docker rmi ${IMAGE_NAME}"""}}}stage('step5:deployment'){steps {sh """sed -i "s#k8s-demo-image#${IMAGE_NAME}#g" deployment.yamlkubectl apply --kubeconfig=/root/.kube/config -f deployment.yaml --namespace=${K8S_NAMESPACE}"""}}}
}

配置jenkins pipeline任务

创建jenkins pipeline任务，并设置需要的参数。

新建pipeline任务

点击“新建任务”，输入名称并选择“流水线”（pipeline），然后点击确定。

新建pipeline

配置 pipeline任务
进入任务的配置界面，在流水线（pipeline）设置部分，选择“Pipeline script from SCM”。SCM选项选为“Git”，配置好工程的git地址以及获取代码的凭证信息。然后在“Additional Behaviours”中添加“Clean before checkout”。

测试pipeline任务

在创建的pipeline任务中，点击“立即构建”即可立即执行pipeline任务。

在项目k8s-demo主页默认会有阶段视图

查看k8s是否已经部署k8s

[root@master k8s]# kubectl get pods,svc | grep k8s-demo
pod/deployment-k8s-demo-694c84bd48-blwjj 1/1 Running 0 12m
pod/deployment-k8s-demo-694c84bd48-nfwqz 1/1 Running 0 12m
pod/deployment-k8s-demo-694c84bd48-tkrv2 1/1 Running 0 12m
service/service-k8s-demo NodePort 10.107.193.30 8888:30888/TCP 14h

至此，Jenkins已经将git 分支部署在k8s集群

设置gitee自动触发jenkins

前面的步骤中已经完成了手动执行jenkins执行pipeline任务完成构建部署任务，下面说明如何在代码提交后让gitlab/gitee自动触发jenkins执行pipeline任务。

插件确认

jenkins中安装gitlab/gitee插件,我们在初始已经安装了gitee并配置了凭证。

以下直接以gitee测试，gitlab也是一样的步骤和操作。

查看jenkins webhook调用路径并生成密匙

webhook调用路径

生成webhook调用密匙

gitee配置webhook

在gitee k8s-demo项目设置中新建一个webhook

必须保证gitee能够调通你的ip，
k8s-demo 代码push测试自动构建即可。