《持久化存储》系列,共包含以下文章:
- K8s 持久化存储方式
- 持久卷 PV
- 持久卷声明 PVC
- 持久卷的动态供给 Dynamic Provisioning
😊 如果您觉得这篇文章有用 ✔️ 的话,请给博主一个一键三连 🚀🚀🚀 吧 (点赞 🧡、关注 💛、收藏 💚)!!!您的支持 💖💖💖 将激励 🔥 博主输出更多优质内容!!!
持久卷的动态供给 Dynamic Provisioning
- 1.搭建 NFS 服务
- 2.创建 RBAC 权限
- 3.部署 NFS Provisioner
- 4.创建 StorageClass
- 5.创建 PVC,自动关联 PV
- 6.创建 Pod,测试数据是否持久
Kubernetes 提供了一套可以自动创建 PV 的机制,即 Dynamic Provisioning。而这个机制的核心在于 StorageClass 这个 API 对象。
StorageClass 对象会定义下面两部分内容:
- PV 的属性。比如,存储类型、Volume 的大小等。
- 创建这种 PV 需要用到的存储插件。
有了这两个信息之后,Kubernetes 就能够根据用户提交的 PVC,找到一个对应的 StorageClass,之后 Kubernetes 就会调用该 StorageClass 声明的存储插件,进而创建出需要的PV。
🚀 但是其实使用起来是一件很简单的事情,你只需要根据自己的需求,编写YAML文件即可,然后使用
kubectl create
命令执行即可。
在一个大规模的 Kubernetes 集群里,可能有成千上万个 持久卷声明(PVC
),这就意味着运维人员必须实现创建出这个多个 持久卷(PV
)。此外,随着项目的需要,会有新的 PVC 不断被提交,那么运维人员就需要不断的添加新的、满足要求的 PV,否则新的 Pod 就会因为 PVC 绑定不到 PV 而导致创建失败。而且通过 PVC 请求到一定的存储空间也很有可能不足以满足应用对于存储设备的各种需求。
而且不同的应用程序对于存储性能的要求可能也不尽相同,比如读写速度、并发性能等,为了解决这一问题,Kubernetes 又为我们引入了一个新的资源对象:StorageClass。
通过 StorageClass 的定义,管理员可以将存储资源定义为某种类型的资源,比如快速存储、慢速存储等,用户根据 StorageClass 的描述就可以非常直观的知道各种存储资源的具体特性了,这样就可以根据应用的特性去申请合适的存储资源了。
PV 对象和 PVC 对象可以通过 存储类 storageClass 实现自动的匹配和绑定。因此,存储类 storageClass 可以实现 PV 资源的动态供给,它是 PV 资源分配的一种策略。
基于存储类 storageClasss 实现持久卷的动态供给的过程如下图所示。
下面来演示如何实现持久卷的动态供给。
1.搭建 NFS 服务
apt install -y nfs-kernel-server
mkdir /nfs
echo "/nfs *(rw,sync,no_root_squash)" > /etc/exports
systemctl restart nfs-kernel-server
systemctl status nfs-server
🌞 更多详情可参考我的这篇博客《Ubuntu 安装 NFS 步骤详解》。
2.创建 RBAC 权限
vim nfs-rbac.yaml
apiVersion: v1
kind: ServiceAccount
metadata:name: nfs-client-provisioner# replace with namespace where provisioner is deployednamespace: default
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: nfs-client-provisioner-runner
rules:- apiGroups: [""]resources: ["nodes"]verbs: ["get", "list", "watch"]- apiGroups: [""]resources: ["persistentvolumes"]verbs: ["get", "list", "watch", "create", "delete"]- apiGroups: [""]resources: ["persistentvolumeclaims"]verbs: ["get", "list", "watch", "update"]- apiGroups: ["storage.k8s.io"]resources: ["storageclasses"]verbs: ["get", "list", "watch"]- apiGroups: [""]resources: ["events"]verbs: ["create", "update", "patch"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: run-nfs-client-provisioner
subjects:- kind: ServiceAccountname: nfs-client-provisioner# replace with namespace where provisioner is deployednamespace: default
roleRef:kind: ClusterRolename: nfs-client-provisioner-runnerapiGroup: rbac.authorization.k8s.io
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: leader-locking-nfs-client-provisioner# replace with namespace where provisioner is deployednamespace: default
rules:- apiGroups: [""]resources: ["endpoints"]verbs: ["get", "list", "watch", "create", "update", "patch"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:name: leader-locking-nfs-client-provisioner# replace with namespace where provisioner is deployednamespace: default
subjects:- kind: ServiceAccountname: nfs-client-provisioner# replace with namespace where provisioner is deployednamespace: default
roleRef:kind: Rolename: leader-locking-nfs-client-provisionerapiGroup: rbac.authorization.k8s.io
kubectl apply -f nfs-rbac.yaml
3.部署 NFS Provisioner
要使用 StorageClass,我们就得安装对应的 自动配置程序,比如我们这里存储后端使用的是 NFS,那么我们就需要使用到一个 nfs-client-provisioner
的自动配置程序,我们也叫它 Provisioner,这个程序使用我们已经配置好的 NFS 服务器,来自动创建持久卷,也就是自动帮我们创建 PV。
nfs-client-provisioner
是一个 Kubernetes 的简易 NFS 的外部 Provisioner,本身不提供 NFS,需要现有的 NFS 服务器提供存储。
🚀 注意:地址和目录要改成实际的 NFS 服务对应配置。
vim nfs-provisioner-deploy.yaml
apiVersion: apps/v1
kind: Deployment
metadata:name: nfs-client-provisionerlabels:app: nfs-client-provisioner# replace with namespace where provisioner is deployednamespace: default
spec:replicas: 1strategy:type: Recreateselector:matchLabels:app: nfs-client-provisionertemplate:metadata:labels:app: nfs-client-provisionerspec:serviceAccountName: nfs-client-provisionercontainers:- name: nfs-client-provisionerimage: k8s.gcr.io/sig-storage/nfs-subdir-external-provisioner:v4.0.2volumeMounts:- name: nfs-client-rootmountPath: /persistentvolumesenv:- name: PROVISIONER_NAMEvalue: k8s-sigs.io/nfs-subdir-external-provisioner- name: NFS_SERVERvalue: 172.30.1.2 - name: NFS_PATHvalue: /nfsvolumes:- name: nfs-client-rootnfs:server: 172.30.1.2path: /nfs
- 存储类 StorageClass 需要使用
provisioner
(制备器)字段来决定使用哪个卷插件来创建 PV。制备器字段必须指定。nfs-provisioner-deploy.yaml
文件通过创建制备器来提供基于 NFS 的 PV 存储方式。 - 这里使用
k8s.gcr.io/sig-storage/nfs-subdir-external-provisioner:v4.0.2
镜像作为 NFS Server 的客户端程序来访问 NFS。
kubectl apply -f nfs-provisioner-deploy.yaml
kubectl get pods
4.创建 StorageClass
vim storageclass.yaml
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:name: nfs-provisioner-storageannotations:storageclass.kubernetes.io/is-default-class: "true"
provisioner: k8s-sigs.io/nfs-subdir-external-provisioner
parameters:archiveOnDelete: "false"pathPattern: "${.PVC.namespace}/${.PVC.name}"
metadata.name
:PVC 申请时需明确指定的 storageclass 名称。provisioner
:制备器名称,必须和上面创建的PROVISIONER_NAME
保持一致。parameters.archiveOnDelete
:如果值为false
,删除 PVC 后也会删除目录内容;值为true
则会对数据进行保留。parameters.pathPattern
:创建目录路径的模板,默认为随机命名。
kubectl apply -f storageclass.yaml
查看创建的存储类 storageClass。
kubectl get storageclass
🚀 该命令可以简写成以下形式:
kubectl get sc
输出的信息如下:
5.创建 PVC,自动关联 PV
编辑 nfs-pvc-test.yaml
文件创建测试的 PVC 对象,以检测存储类 storageClass 能否正常工作。
vim nfs-pvc-test.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:name: nfs-pvc-test
spec:storageClassName: "nfs-provisioner-storage"accessModes:- ReadWriteManyresources:requests:storage: 0.5Gi
kubectl apply -f nfs-pvc-test.yaml
查看 Deploy、Pod、SC 和 PVC 的信息。
kubectl get deploy,pod,sc,pvc
🚀 可以看到,PVC 已经绑定成功。
kubectl describe pv pvc-6f1a4f2d-5db9-4c08-bed7-9ce84e2472b6
6.创建 Pod,测试数据是否持久
编辑 nginx-pvc-test.yaml
文件创建 Pod 来使用 PVC 资源。
vim nginx-pvc-test.yaml
apiVersion: v1
kind: Pod
metadata:name: nginx-sc
spec:containers:- name: nginximage: nginxvolumeMounts:- name: nginx-pagemountPath: /usr/share/nginx/htmlvolumes:- name: nginx-pagepersistentVolumeClaim:claimName: nfs-pvc-test
kubectl apply -f nginx-pvc-test.yaml
查看 Deploy、Pod、SC 和 PVC 的信息。
kubectl get deploy,pod,sc,pvc
在 master 节点 NFS Server 的共享目录 /nfs/default/nfs-pvc-test
下,创建数据文件 data.txt
。
echo hello world > /nfs/default/nfs-pvc-test/data.txt
🚀 由于 Kubernetes 实现了持久卷的动态供给,并将 NFS 作为存储的方式,因此,即使没有指定存储路径,也会在 NFS Server上自动为 PVC 创建存储的目录。
进入 Pod 中观察是否能够访问新创建的文件。
kubectl exec -it pod/nginx-sc sh
输出的信息如下:
参考:《Kubernetes 数据持久化 StorageClass 动态供给》