docker-harbor

一、registry

二、harbor

1.部署 harbor

1.1部署Docker-Compose

1.2部署 Harbor 服务

1.3在其他客户端上传镜像

三、维护管理Harbor

1. 创建 Harbor 用户

2.添加项目成员

3. 在客户端上使用普通账户操作镜像

4. 查看日志

5. 修改 Harbor.cfg 配置文件

6. 移除 Harbor 服务容器同时保留镜像数据/数据库，并进行迁移

7. 如需重新部署，需要移除 Harbor 服务容器全部数据

四、Harbor高可用部署

五、总结

1.harbor特性

2.harbor核心组件

3.harbor私有仓库的过程

4.添加私有仓库地址方式

一、registry

首先企业docker仓库是非公开、私有的，仅供本地机器上传和下载。使用私有仓库，可以节省带宽，提高镜像资源的利用率。

而Registry就是Docker的镜像仓库，用于存放Docker镜像。Docker官方提供了一个搭建私有仓库的镜像registry，只需下载镜像，运行容器并暴露5000端口即可‌。

以下是搭建过程

（1）首先下载 registry 镜像

docker pull registry

（2）在daemon.json 文件中添加私有镜像仓库地址

vim /etc/docker/daemon.json

{

"insecure-registries": ["192.168.126.7:5000"], #添加，注意用逗号结尾

#"registry-mirrors": ["https://ae3f5qei.mirror.aliyuncs.com"]

"registry-mirrors": [ "https://e4254a0ec0a9429ca9b331cbc8513f67.mirror.swr.myhuaweicloud.com" ]

}

#阿里加速器，更换华为,华为云官网容器产品

systemctl restart docker.service

（3）运行 registry 容器

docker run -itd -v /data/registry:/var/lib/registry -p 5000:5000 --restart=always --name registry registry:latest

（4）测试

1.拉取centos7镜像

docker pull centos:7

2. 为镜像打标签

docker tag centos:7 192.168.126.7:5000/centos:t1

(3)上传到私有仓库

docker push 192.168.126.7:5000/centos:t1

(4)列出私有仓库的所有镜像

curl http://192.168.126.7:5000/v2/_catalog

(5)出私有仓库的 centos 镜像有哪些tag

curl http://192.168.126.7:5000/v2/centos/tags/list

(6)先删除原有的 centos 的镜像，再测试私有仓库下载

docker rmi -f eeb6ee3f44bd

docker pull 192.168.126.7:5000/centos:t1

可以看到虽然删除了源镜像，但依旧可通过本地私有仓库下载。也衍生出问题，第一个仓库只能本地私人使用；第二缺乏图形界面‌，Registry没有提供图形管理界面，所有操作都需要通过命令行完成，并不清晰。

二、harbor

为解决registry的问题，harbor添加了许多企业级特性；如分层传输机制、WEB界面、水平扩展集群支持、良好的安全机制、基于角色的访问控制以及审计日志‌等。

Harbor 在架构上主要有 Proxy、Registry、Core services、Database（Harbor-db）、Log collector（Harbor-log）、Job services 六个组件。

Harbor 的每个组件都是以 Docker 容器的形式构建的，使用 docker-compose 来对它进行部署。用于部署 Harbor 的 docker-compose 模板位于 harbor/docker-compose.yml。

1.部署 harbor

Harbor服务器	192.168.126.7	docker-ce、docker-compose、harbor-offline-v1.2.0
client服务器	192.168.126.6	docker-ce

1.1部署Docker-Compose

（1）下载或者上传 Docker-Compose

curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose

#从github获取，需要翻墙

chmod +x /usr/local/bin/docker-compose

（2）查看版本

docker-compose --version

1.2部署 Harbor 服务

（1）下载或上传 Harbor 安装程序

wget http://harbor.orientsoft.cn/harbor-1.2.2/harbor-offline-installer-v1.2.2.tgz

#需要翻墙

tar zxvf harbor-offline-installer-v1.2.0.tgz -C /usr/local/

（2）修改harbor安装的配置文件

vim /usr/local/harbor/harbor.cfg

-5行-修改，设置为Harbor服务器的IP地址或者域名

hostname = 192.168.126.7

-59行-指定管理员的初始密码，默认的用户名/密码是admin/Harbor12345

harbor_admin_password = Harbor12345

快照还原要重启。有缓存

（3）启动 Harbor

cd /usr/local/harbor/

./prepare #为 harbor 启动的容器生成一些必要的文件（环境）

再执行命令 ./install.sh 以 pull 镜像并启动容器

故障排查：docker-compose版本不能低于1.22

（4）查看 Harbor 启动镜像

cd /usr/local/harbor/

docker-compose ps

（5）创建新项目

1.浏览器访问：http://192.168.126.7 登录 Harbor WEB UI 界面，默认的管理员用户名和密码是 admin/Harbor12345

2.输入用户名和密码登录界面后可以创建一个新项目。点击“+项目”按钮

3.填写项目名称为 myproject-test ，点击“确定”按钮，创建新项目

#单击“+项目”，填写项目名称，项目级别若设置为"私有"，则不勾选。如果设置为公共仓库，则所有人对此项目下的镜像拥有读权限，命令行中不需要执行"Docker login"即可下载镜像，镜像操作与 Docker Hub 一致。

4.此时可使用 Docker 命令在本地通过 127.0.0.1 来登录和推送镜像。默认情况下，Registry 服务器在端口 80 上侦听。

#登录 Harbor

docker login -u admin -p Harbor12345 http://127.0.0.1

5.下载镜像进行测试

docker pull nginx

6.将镜像打标签

格式：docker tag 镜像:标签仓库IP/项目名称/镜像名:标签

docker tag nginx:latest 127.0.0.1/myproject-test/nginx:v1

7.上传镜像到 Harbor

docker push 127.0.0.1/myproject-test/nginx:v1

8.在 Harbor 界面 myproject-test 目录下可看见此镜像及相关信息

1.3在其他客户端上传镜像

以上操作都是在 Harbor 服务器本地操作。如果其他客户端登录到 Harbor，就会报如下错误。

出现这问题的原因为Docker Registry 交互默认使用的是 HTTPS，但是搭建私有镜像默认使用的是 HTTP 服务，所以与私有镜像交互时出现以上错误。

（1）在 Docker 客户端配置操作

#解决办法是：在 Docker server 启动的时候，增加启动参数，默认使用 HTTP 访问。

vim /usr/lib/systemd/system/docker.service

--13行--修改

ExecStart=/usr/bin/dockerd -H fd:// --insecure-registry 192.168.10.23 --containerd=/run/containerd/containerd.sock

或

ExecStart=/usr/bin/dockerd --insecure-registry 192.168.10.23

（2）重启 Docker，再次登录

systemctl daemon-reload

systemctl restart docker

（3）再次登录 Harbor

docker login -u admin -p Harbor12345 http://192.168.10.23

#将自动保存凭据到/root/.docker/config.json，下次登录时可直接使用凭据登录Harbor

（4）下载镜像进行测试

docker pull 192.168.126.7/myproject-test/nginx:v1

速度很快

（5）上传镜像进行测试

docker pull redis

docker tag redis:latest 192.168.126.7/myproject-test/redis:v2

docker push 192.168.126.7/myproject-test/redis:v2

查看网页

在日志中可以看到操作日志

三、维护管理Harbor

1. 创建 Harbor 用户

（1）创建用户并分配权限

在 Web 管理界面中单击系统管理 -> 用户管理 -> +用户，

填写用户名为“testuser”，邮箱为“test@testc.om”，全名为“zhangsan”，密码为“Gg123123123”，注释为“管理员”（可省略）。

附：用户创建成功后，单击左侧“...”按钮可将上述创建的用户设置为管理员角色或进行删除操作，本例不作任何设置。

2.添加项目成员

单击项目 -> myproject-test-> 成员 -> + 成员，填写上述创建的用户 gg 并分配角色为“开发人员”。

附：此时单击左侧“...”按钮仍然可对成员角色进行变更或者删除操作

3. 在客户端上使用普通账户操作镜像

（1）删除上述打标签的本地镜像

docker rmi 192.168.126.7/myproject-test/redis:v2

（2）先退出当前用户，然后使用上述创建的账户 testuser 登录

docker logout 192.168.126.7

docker login 192.168.126.7

或

docker login -u testuser -p Gg123123123 http://192.168.126.7

//下载和上传镜像进行测试

docker pull 192.168.126.7/myproject-test/redis:v2

docker tag redis:latest 192.168.126.7/myproject-test/redis:v3

docker push 192.168.126.7/myproject-test/redis:v3

4. 查看日志

Web 界面日志，操作日志按时间顺序记录用户相关操作

5. 修改 Harbor.cfg 配置文件

要更改 Harbor的配置文件中的可选参数时，请先停止现有的 Harbor实例并更新 Harbor.cfg；然后运行 prepare 脚本来填充配置；最后重新创建并启动 Harbor 的实例。

使用 docker-compose 管理 Harbor 时，必须在与 docker-compose.yml 相同的目录中运行。

cd /usr/local/harbor

docker-compose down -v

vim harbor.cfg #只能修改可选参数

./prepare

docker-compose up -d

//如果有以下报错，需要开启防火墙 firewalld 服务解决

Creating network "harbor_harbor" with the default driver

ERROR: Failed to Setup IP tables: Unable to enable SKIP DNAT rule: (iptables failed: iptables --wait -t nat -I DOCKER -i br-b53c314f45e8 -j RETURN: iptables: No chain/target/match by that name.

(exit status 1))

systemctl restart firewalld.service

docker-compose up -d

6. 移除 Harbor 服务容器同时保留镜像数据/数据库，并进行迁移

#在Harbor服务器上操作

（1）移除 Harbor 服务容器

cd /usr/local/harbor

docker-compose down -v

（2）把项目中的镜像数据进行打包

//持久数据，如镜像，数据库等在宿主机的/data/目录下，日志在宿主机的/var/log/Harbor/目录下

ls /data/registry/docker/registry/v2/repositories/myproject-test

cd /data/registry/docker/registry/v2/repositories/myproject- test

tar zcvf test-registry.tar.gz ./*

7. 如需重新部署，需要移除 Harbor 服务容器全部数据

cd /usr/local/harbor

docker-compose down -v

rm -r /data/database

rm -r /data/registry

四、Harbor高可用部署

1.基于共享存储

或基于镜像同步

五、总结

1.harbor特性

（1）基于角色控制：用户和仓库都是基于项目进行组织的，而用户在项目中可以拥有不同的权限。

（2）基于镜像的复制策略：镜像可以在多个Harbor实例之间进行复制（同步）。

（3）支持 LDAP/AD：Harbor 可以集成企业内部已有的 AD/LDAP（类似数据库的一张表），用于对已经存在的用户认证和管理。

（4）镜像删除和垃圾回收：镜像可以被删除，也可以回收镜像占用的空间。

（5）图形化用户界面：用户可以通过浏览器来浏览，搜索镜像仓库以及对项目进行管理。

（6）审计管理：所有针对镜像仓库的操作都可以被记录追溯，用于审计管理。

（7）支持 RESTful API：RESTful API 提供给管理员对于 Harbor 更多的操控, 使得与其它管理软件集成变得更容易。

（8）Harbor和docker registry的关系：Harbor实质上是对docker registry做了封装，扩展了自己的业务模板。

2.harbor核心组件

Harbor 在架构上主要有

Proxy：是一个 nginx 的前端代理，该代理将来自浏览器、docker clients 的请求转发到后端不同的服务上。（Harbor 的 Registry、UI、Token 服务等组件，都处在 nginx 反向代理后边）

Registry：负责储存 Docker 镜像，并处理 Docker push/pull 命令。

Core services：核心功能

1.UI:图形化界面，帮助用户管理 Registry 上的镜像, 并对用户进行授权。

2.WebHook：为了及时获取Registry上image 状态变化的情况，在Registry 上配置 Webhook，把状态变化传递给 UI 模块。

3.Token 服务：令牌，认证方式

Database：为core services提供数据库服务，负责储存用户权限、审计日志、Docker 镜像分组信息等数据。

Log collector：负责收集其他组件的日志到一个地方。

Job services：主要用于镜像复制，本地镜像可以被同步到远程 Harbor 实例上。

3.harbor私有仓库的过程

客户端docker-client信息提交给proxy，经过nginx反向代理请求后端转发给core（核心服务）UI界面，身份进行认证（token），当Registry上image 状态变化会由触发器传递给UI。然后通过认证进入Registry自动保存凭证；后期反向代理即可直接转发到Registry。期间所有业务数据、分组信息等会保存到Database。同时core、Registry都会通过Job services复制同步镜像到远程 Harbor 实例上。以上组件操作记录日志会被收集在Log collector中。