一、k8s概述

1.1 引言

docker compose  单机编排工具  有企业在用

docker   swarm    能够在多台主机中构建一个docker集群   基本淘汰集群化管理处理工具   容器    

微服务封装  dockerfile  编写成镜像 然后进行发布  dockerfile 可以写成shell脚本（函数做调用）做版本迭代（完成半自动化）

mesos+marathon  2019年淘汰后开始使用k8s开源式

CNCF与云原生计算基金会2015年12月

云要素：微服务、容器化、devops  （开发+运维）、持续交付

云平台：公有云（阿里云、腾讯云、华为云）、私有云（天翼云）、混合云（有公有、私有）

职业SRE：

①运维自动化（自动化发布  自动化部署  日志管理  监控自动化）

② k8s编排集群 ③  日志系统 ④ 微服务 ⑤ 消息队列 ⑥多云化管理

⑦ 云开（二开）python  golong

1.2 k8s的概念

kubernetes简称k8s

他是一种开源容器编排平台，用于自动化部署扩展和管理化应用程序。提供一种容器编排和管理的方式 还可以帮助开发人员轻松管理我们的应用程序

官网：
https://kubernetes.io

k8s 1.12 1.15 1.17 1.18 1.20   1.22       

1.24  抛弃docker   可以用需要安装第三方插件   1.28 

1.3 k8s的作用

        试想下传统的后端部署办法：把程序包（包括可执行二进制文件、配置文件等）放到服务器上，接着运行启动脚本把程序跑起来，同时启动守护脚本定期检查程序运行状态、必要的话重新拉起程序。

        设想一下，如果服务的请求量上来，已部署的服务响应不过来怎么办？传统的做法往往是，如果请求量、内存、CPU超过阈值做了告警，运维人员马上再加几台服务器，部署好服务之后，接入负载均衡来分担已有服务的压力。
        这样问题就出现了：从监控告警到部署服务，中间需要人力介入！那么，有没有办法自动完成服务的部署、更新、卸载和扩容、缩容呢？
        而这就是 K8S 要做的事情：自动化运维管理容器化（Docker）程序。

K8S 的目标是让部署容器化应用简单高效。
K8S 解决了裸跑Docker 的若干痛点:
●单机使用，无法有效集群
●随着容器数量的上升，管理成本攀升
●没有有效的容灾、自愈机制
●没有预设编排模板，无法实现快速、大规模容器调度
●没有统一的配置管理中心工具
●没有容器生命周期的管理工具
●没有图形化运维管理工具

K8S提供了容器编排，资源调度，弹性伸缩，部署管理，服务发现等一系列功能

二、k8s特性

① 弹性伸缩

        使用命令、UI或者基于cpu使用情况自动快速扩容和缩容应用程序实例，保证应用业务高峰并发是的高可用性；业务低峰时回收资源，以最小成本运行服务。

        2台机器提供web服务网站 高并发系统资源占比以来自动扩展机器10并发一旦过去了自动回收  1

② 自我修复

        在节点故障时重新启动失败的容器，替换和重新部署，保证预期的副本数量；杀死健康检査失败的容器，并且在未准备好之前不会处理客户端请求，确保线上服务不中断。

③ 服务发现和负载均衡

        K8S为多个容器提供一个统一访问入口(内部IP地址和一个DNS名称)，并且负载均衡关联的所有容器，使得用户无需考虑容器IP问题。

④ 自动发布（默认滚动模式）回滚

        K8S采用滚动更新策略更新应用，一次更新一个或者部分Pod，而不是同时删除所有Pod，如果更新过程中出现问题，将回滚更改，确保升级不影响业务。

⑤ 集中化管理配置和密钥管理

        管理机密数据和应用程序配置，而不需要把敏感数据暴露在镜像里，提高敏感数据安全性。并可以将一些常用的配置存储在K8S中，方便应用程序使用。

⑥ 存储编排，支持外挂存储并对外挂存储资源进行编排

        挂载外部存储系统，无论是来自本地存储，公有云（如AWS），还是网络存储（如NFS、Glusterfs、Ceph）都作为集群资源的一部分使用，极大提高存储使用灵活性。

⑦ 任务批处理运行

        提供一次性任务，定时任务；满足批量数据处理和分析的场景。

三、Kubernetes 集群架构与组件

3.1 集群架构

        K8S 是属于主从设备模型（Master-Slave 架构），即有 Master 节点负责集群的调度、管理和运维，Slave 节点是集群中的运算工作负载节点。
在 K8S 中，主节点一般被称为 Master 节点，而从节点则被称为 Worker Node 节点，每个 Node 都会被 Master 分配一些工作负载。

        Master 组件可以在群集中的任何计算机上运行，但建议 Master 节点占据一个独立的服务器。因为 Master 是整个集群的大脑，如果 Master 所在节点宕机或不可用，那么所有的控制命令都将失效。除了 Master，在 K8S 集群中的其他机器被称为 Worker Node 节点，当某个 Node 宕机时，其上的工作负载会被 Master 自动转移到其他节点上去。

3.2 核心组件

3.2.1 naster

①  kube-apiserver

        用于暴露 Kubernetes API，任何资源请求或调用操作都是通过 kube-apiserver 提供的接口进行。以 HTTP Restful API 提供接口服务，所有对象资源的增删改查和监听操作都交给 API Server 处理后再提交给 Etcd 存储。

        可以理解成 API Server 是 K8S 的请求入口服务。API Server 负责接收 K8S 所有请求（来自 UI 界面或者 CLI 命令行工具）， 然后根据用户的具体请求，去通知其他组件干活。可以说 API Server 是 K8S 集群架构的大脑。

② kube-controller-manager       

        运行管理控制器，是 K8S 集群中处理常规任务的后台线程，是 K8S 集群里所有资源对象的自动化控制中心。
        在 K8S 集群中，一个资源对应一个控制器，而 Controller manager 就是负责管理这些控制器的。

        由一系列控制器组成，通过 API Server 监控整个集群的状态，并确保集群处于预期的工作状态，比如当某个 Node 意外宕机时，Controller Manager 会及时发现并执行自动化修复流程，确保集群始终处于预期的工作状态。

这些控制器主要包括：
 

控制器	功能
node controller（节点控制器）	负责在节点出现故障时发现和响应
replication  controller（副本控制器）	负责保证集群中一个 RC（资源对象 Replication Controller）所关联的 Pod 副本数始终保持预设值。可以理解成确保集群中有且仅有 N 个 Pod 实例，N 是 RC 中定义的 Pod 副本数量。
endpoints controller（端点控制器）	填充端点对象（即连接 Services 和 Pods），负责监听 Service 和对应的 Pod 副本的变化。 可以理解端点是一个服务暴露出来的访问点，如果需要访问一个服务，则必须知道它的 endpoint。
Service Account & Token Controllers（服务帐户和令牌控制器）	为新的命名空间创建默认帐户和 API 访问令牌
ResourceQuota Controller（资源配额控制器）	确保指定的资源对象在任何时候都不会超量占用系统物理资源
Namespace Controller（命名空间控制器）	管理 namespace 的生命周期
Service Controller（服务控制器）	属于 K8S 集群与外部的云平台之间的一个接口控制器。

③ Kube-scheduler

        是负责资源调度的进程，根据调度算法为新创建的 Pod 选择一个合适的 Node 节点

        可以理解成 K8S 所有 Node 节点的调度器。当用户要部署服务时，Scheduler 会根据调度算法选择最合适的 Node 节点来部署 Pod。
        •预选策略（predicate）
        •优选策略（priorities）

        API Server 接收到请求创建一批 Pod ，API Server 会让 Controller-manager 按照所预设的模板去创建 Pod，Controller-manager 会通过 API Server 去找 Scheduler 为新创建的 Pod 选择最适合的 Node 节点。比如运行这个 Pod 需要 2C4G 的资源，Scheduler 会通过预选策略过滤掉不满足策略的 Node 节点。Node 节点中还剩多少资源是通过汇报给 API Server 存储在 etcd 里，API Server 会调用一个方法找到 etcd 里所有 Node 节点的剩余资源，再对比 Pod 所需要的资源，如果某个 Node 节点的资源不足或者不满足 预选策略的条件则无法通过预选。预选阶段筛选出的节点，在优选阶段会根据优先策略为通过预选的 Node 节点进行打分排名， 选择得分最高的 Node。例如，资源越富裕、负载越小的 Node 可能具有越高的排名。

④  etcd
K8S 的存储服务。etcd 是分布式键值存储系统，存储了 K8S 的关键配置和用户配置，K8S 中仅 API Server 才具备读写权限，其他组件必须通过 API Server 的接口才能读写数据

3.2.2 node节点

⑤ Kubelet
        Node 节点的监视器，以及与 Master 节点的通讯器。Kubelet 是 Master 节点安插在 Node 节点上的“眼线”，它会定时向 API Server 汇报自己 Node 节点上运行的服务的状态，并接受来自 Master 节点的指示采取调整措施。

        从 Master 节点获取自己节点上 Pod 的期望状态（比如运行什么容器、运行的副本数量、网络或者存储如何配置等）， 直接跟容器引擎交互实现容器的生命周期管理，如果自己节点上 Pod 的状态与期望状态不一致，则调用对应的容器平台接口（即 docker 的接口）达到这个状态。

管理镜像和容器的清理工作，保证节点上镜像不会占满磁盘空间，退出的容器不会占用太多资源。
        在 Kubernetes 集群中，在每个 Node（又称 Worker Node）上都会启动一个 kubelet 服务进程。该进程用于处理 Master 下发到本节点的任务，管理 Pod 及 Pod 中的容器。每个 kubelet 进程都会在 API Server 上注册节点自身的信息，定期向 Master 汇报节点资源的使用情况，并通过 cAdvisor 监控容器和节点资源。

⑥ Kube-Proxy
        在每个 Node 节点上实现 Pod 网络代理，是 Kubernetes Service 资源的载体，负责维护网络规则和四层负载均衡工作。 负责写入规则至iptables、ipvs实现服务映射访问的。

        Kube-Proxy 本身不是直接给 Pod 提供网络，Pod 的网络是由 Kubelet 提供的，Kube-Proxy 实际上维护的是虚拟的 Pod 集群网络。
Kube-apiserver 通过监控 Kube-Proxy 进行对 Kubernetes Service 的更新和端点的维护。

        在 K8S 集群中微服务的负载均衡是由 Kube-proxy 实现的。Kube-proxy 是 K8S 集群内部的负载均衡器。它是一个分布式代理服务器，在 K8S 的每个节点上都会运行一个 Kube-proxy 组件。

⑦ docker 或 rocket 
容器引擎，运行容器，负责本机的容器创建和管理工作。

3.3 k8s的整体架构流程

① 一旦k8s环境启动，首先master和node都会把自身的信息储存到etcd数据库

② 用户请求必须先通过auth身份认证才能进入到api service，进入后用户进入请求会被存储到etcd数据库

③ api service会根据请求（比如创建三台nginx节点），调用controller-manager根据模板来创建但不能选择在哪个机器上创建，api service会找scheduler调度器会根据预选再优选策略选择相应的机器，manager将资源安装选好的节点，所有的操作信息都会储存在etcd数据库里。

④ APIserver会请求相关node的kubelet（负责维护容器的生命周期）通过kubelet把pod运行起来，APIserver还会将pod的信息保存在etcd；

⑤ pod运行起来后，controller-manager（负责维护集群的状态）就会负责管理pod的状态，若pod挂了，controller-manager就会重新创建一个一样的pod，或者像扩缩容等；

⑥ 完成service工作的具体模块是Kube-proxy（负责提供集群内部的服务发现和负载均衡）；在每个node上都会有一个Kube-proxy，在任何一个节点上访问一个service的虚拟ip，都可以访问到pod；

⑦ service的IP可以在集群内部访问到，在集群外呢？service可以把服务端口暴露在当前的node上，外面的请求直接访问到node上的端口就可以访问到service了

3.4 创建pod流程

kubectl创建一个Pod（在提交时，转化为json格式）

        ① 首先经过AUTH认证（鉴权），然后传递给api-server进行处理
        ② api-server 将请求信息提交给etcd
        ③ scheduler和controller-manager 会watch（监听） api-server ，监听请求
        ④ 在scheduler 和controller-manager监听到请求后，scheduler 会提交给api-server一个list清单——》包含的是获取node节点信息
        ⑤ 此时api-server就会向etcd获取后端node节点信息，获取到后，被scheduler watch到，然后进行预选优选进行打分，最后将结果给与api-server
        ⑥ 此时api-server也会被controller-manager watch（监听） controller-manager会根据请求创建Pod的配置信息（需求什么控制器）将控制器资源给与api-server
        ⑦ 此时api-server 会提交list清单给与对应节点的kubelet（代理）
        ⑧ kubelet代理通过K8S与容器的接口（例如containerd）进行交互，假设是docker容器，那么此时kubelet就会通过dockershim 以及runc接口与docker的守护进程docker-server进行交互，来创建对应的容器，再生成对应的Pod
        ⑨ kubelet 同时会借助于metrics server 收集本节点的所有状态信息，然后再提交给api-server
        ⑩ 最后api-server会提交list清单给与etcd来存储（最后api-server会将数据维护在etcd中）

3.5 终止pod流程

        ① 用户向apiServer发送删除pod对象的命令
        ② apiServer中的pod对象信息随着时间的退役而更新，在宽限期内（默认30秒），pod被视为dead
        ③ 将pod标记为terminating状态
        ④ kubelet在监控到pod对象转为terminating状态的同时启动pod关闭过程
        ⑤ 端点控制器监控到pod对象的关闭行为时将其从所有匹配到此端点的service资源的端点列表中移除
        ⑥ 如果当前pod对象定义了preStop钩子处理器，则在其标记为terminating后即会以同步的方式启动执行
        ⑦ pod对象的容器进程收到停止信号
        ⑧ 宽限期结束后，若pod中还存在仍在运行的进程，那么pod对象会收到吉利终止的信号
        ⑨ kubelet请求apiServer将此pod资源的款限制设置为0从而完成删除操作，此时pod对于用户已不可见

四、k8s的核心概念

        Kubernetes 包含多种类型的资源对象：Pod、Label、Service、Replication Controller 等。

        所有的资源对象都可以通过 Kubernetes 提供的 kubectl 工具进行增删改查等操作，并将其保存在 etcd 中持久化存储。

        Kubernets其实是一个高度自动化的资源控制系统，通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异，来实现自动控制和自动纠错等高级功能。 

4.1 pod 

        Pod是 Kubernetes 创建或部署的最小/最简单的基本单位，一个 Pod 代表集群上正在运行的一个进程。

        可以把 Pod 理解成豌豆荚，而同一 Pod 内的每个容器是一颗颗豌豆。
        一个 Pod 由一个或多个容器组成，Pod 中容器共享网络、存储和计算资源，在同一台 Docker 主机上运行。
        一个 Pod 里可以运行多个容器，又叫边车模式（SideCar）。而在生产环境中一般都是单个容器或者具有强关联互补的多个容器组成一个 Pod。
        同一个 Pod 之间的容器可以通过 localhost 互相访问，并且可以挂载 Pod 内所有的数据卷；但是不同的 Pod 之间的容器不能用 localhost 访问，也不能挂载其他 Pod 的数据卷。

4.2 pod控制器

        Pod 控制器是 Pod 启动的一种模板，用来保证在 K8S 里启动的 Pod 应始终按照用户的预期运行（副本数、生命周期、健康状态检查等）。

        K8S 内提供了众多的 Pod 控制器，常用的有以下几种：

        1、 Deployment：无状态应用部署。Deployment 的作用是管理和控制 Pod 和 ReplicaSet，管控它们运行在用户期望的状态中。

        2、 Replicaset：确保预期的 Pod 副本数量。ReplicaSet 的作用就是管理和控制 Pod，管控它们好好干活。但是，ReplicaSet 受控于 Deployment。

可以理解为 Deployment 就是总包工头，主要负责监督底下的工人 Pod 干活，确保每时每刻都有用户要求数量的 Pod 在工作，如果一旦发现了某个工人 Pod 不行了，就赶紧新拉一个 Pod 过来替换它。而ReplicaSet就是包工头手底下的小包工头。
从 K8S 使用者角度来看，用户只需要关系Deployment 而不操心 ReplicaSet 的前身，官方推荐用 Deployment 取代 Replication Controller 来部署服务。

        3、 Daemonset：确保所有节点运行同一类Pod，保证每个节点上都有一个此类的 Pod 运行，通常用于实现系统级后台任务。

        4、 Statefulset：有状态应用部署。

        5、 Job：一次性任务。根据用户的设置，Job 管理的Pod 把任务成功完成就自动退出了。

        6、 Cronjob：周期性计划任务。

4.3 label 

Label 标签，是K8S 特色的管理方式，便于分类管理资源对象。

        Label 可以附加到各种资源对象上，例如：Node、Pod、Service、RC 等，用于关联对象、查询和筛选。
        一个 Label 是一个 key-value 的键值对，其中 key 与 value 由用户自己指定。
        一个资源对象可以定义任意数量的Label，同一个 Label 也可以被添加倒任意数量的资源对象中，也可以在对象创建后动态添加或者删除。
        可以通过给指定的资源对象捆绑一个或多个不同的 Label，来实现多维度的资源分组管理功能。
        与 Label 类似的，还有 Annotation （注释）。
        区别在于有效的标签值必须为63个字符或更少，并且必须为空或字母数字（[a-z0-9A-Z]）开头和结尾，中间可以包含横杠（-）、下划线（）、点（.）和字母或者数字。注释值则没有字符长度限制。

4.4 label选择器（label selector）

        给某个资源对象定义一个 Label，就相当于给它打了一个标签，随后可以通过标签选择器（Label selector）查询和筛选拥有某些 Label 的资源对象。

        标签选择器目前有两种：基于等值关系（等于、不等于）和 基于集合关系（属于、不属于、存在）。

4.5 service

        在 K8S 的集群里，虽然每个 Pod 会被分配一个单独的IP地址，但由于Pod是有生命周期的（它们可以被创建，而且销毁之后不会再启动），随时可能会因为业务的变更，导致这个IP地址也会随着Pod 的销毁而消失。
而Service 就是用来解决这个问题的核心概念。

        K8S 中的 Service 并不是我们常说的“服务"的含义，而更像是网关层，可以看作一组提供相同服务的 Pod 的对外访问接口、流量均衡器。

        Service 作用于哪些Pod 是通过Label selector标签选择器来定义的。

        在K8S 集群中，Service 可以看作一组提供相同服务的Pod 的对外访问接口。客户端需要访问的服务就是Service 对象。每个Service
        都有一个固定的虚拟ip(这个ip也被称为Cluster IP)，自动并且动态地绑定后端的 Pod， 所有的网络请求直接访问 Service 的虚拟ip，Service会自动向后端做转发。

        Service 除了提供稳定的对外访问方式之外，还能起到负载均衡(Load Balance) 的功能，自动把请求流量分布到后端所有的服务上，Service可以做到对客户透明地进行水平扩展(scale)。

        而实现service这一功能的关键，就是kube-proxy。 kube-proxy 运行在每个节点上，监听API Server中服务对象的变化，

        可通过以下三种流量调度模式:
        userspace (废弃)、iptables (濒临废弃)、ipvs (推荐，性能最好)来实现网络的转发。

        Service是K8S服务的核心，屏蔽了服务细节，统一对外暴露服务接口，真正做到了“微服务”。比如我们的一个服务A，部署了3个副本，也就是3个 Pod；对 于用户来说，只需要关注一个 Service 的入口就可以，而不需要操心究竞应该请求哪一个Pod。

        优势非常明显：一方面外部用户不需要感知因为Pod.上服务的意外崩溃、K8S重新拉起Pod而造成的IP变更，外部用户也不需要感知因升级、变更服务带来的Pod替换而造成的IP变化。

4.6 lngress

        Service 主要负责K8S集群内部的网络拓扑，那么集群外部怎么访问集群内部呢?这个时候就需要Ingress了。Ingress 是整个 K8S 集群的接入层，负责集群内外通讯。

        Ingress是K8S集群里工作在OSI网络参考模型下，第7层的应用，对外暴露的接口，典型的访问方式是http/https。Service只能进行第四层的流量调度，表现形式是ip+port。 Ingress 则可以调度不同业务域、不同URL访问路径的业务流量。

4.7 name

        由于K8S 内部，使用“资源”来定义每一种逻辑概念(功能)，所以每种“资源”，都应该有自己的“名称”。
        “资源”有api版本(apiversion) 、类别(kind) 、元数据(metadata) 、定义清单(spec) 、状态(status) 等配置信息。

4.8 namespace

        随着项目增多、人员增加、集群规模的扩大，需要一种能够逻辑.上隔离K8S内各种“资源”的方法，这就是Namespace。

        Namespace是为了把一个K8S集群划分为若千个资源不可共享的虚拟集群组而诞生的。不同Namespace 内的“资源”名称可以相同，相同Namespace 内的同种“资源"，“名称”不能相同。

        合理的使用K8S的Namespace，可以使得集群管理员能够更好的对交付到K8S里的服务进行分类管理和浏览。

        K8S里默认存在的Namespace 有: default、 kube-system、 kube-public 等。查询K8S里特定“资源"要带上相应的Namespace。

Namespace 六大类型

Mount（mnt）: 隔离文件系统挂载点，该namespace有自己的挂载信息，即拥有独立的目录层次 总结：提供磁盘挂载点和文件系统的隔离能力
UTS: 隔离主机名和域名信息，该namepsace有自己的主机信息，包括主机名(hostname)、NIS domain name 总结：提供主机名或域名隔离能力
IPC: 隔离进程间通信，该namespace有自己的IPC，比如共享[内存]内存)、信号量等   总结：提供进程间通信隔离能力
PID: 隔离进程的 ID，该namespace有自己的进程号，使得namespace中的进程PID单独编号，比如可以PID=1 总结：提供进程隔离能力
Network（Net）: 隔离网络资源，该namespace有自己的网络资源，包括[网络协议](网络协议)栈、网络设备、路由表、防火墙、端口等 总结：提供网络隔离能力
User: 隔离用户和用户组的 ID，该namespace有自己的用户权限管理机制(比如独立的UID/GID)，使得namespace更安全 总结：提供用户隔离能力

五、常见的k8s安装部署方式

        1.Minikube（微型）
        Minikube是一个工具，可以在本地快速运行一个单节点微型K8S，仅用于学习、预览K8S的一些特性使用。
部署地址：https://kubernetes.io/docs/setup/minikube

        2.Kubeadmin（快捷）
        Kubeadmin也是一个工具，提供kubeadm init和kubeadm join，用于快速部署K8S集群，相对简单。
        https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/

        Kubeadm降低部署门槛，但屏蔽了很多细节，遇到问题很难排查。如果想更容易可控，推荐使用二进制包部署Kubernetes集群，虽然手动部署麻烦点，期间可以学习很多工作原理，也利于后期维护

        3.二进制安装部署（稳定）
        生产首选，从官方下载发行版的二进制包，手动部署每个组件和自签TLS证书，组成K8S集群，新手推荐。
        https://github.com/kubernetes/kubernetes/releases