Error message here!

Hide Error message here!

忘记密码?

Error message here!

请输入正确邮箱

Hide Error message here!

密码丢失?请输入您的电子邮件地址。您将收到一个重设密码链接。

Error message here!

返回登录

Close

k8s健康检查(七)--技术流ken

技术流ken 2019-02-23 14:07:00 阅读数:221 评论数:0 点赞数:0 收藏数:0

 

默认的健康检查

 

强大的自愈能力是 Kubernetes 这类容器编排引擎的一个重要特性。自愈的默认实现方式是自动重启发生故障的容器。除此之外,用户还可以利用 Liveness 和 Readiness 探测机制设置更精细的健康检查,进而实现如下需求:

1.零停机部署。1.避免部署无效的镜像。1.更加安全的滚动升级。

 

每个容器启动时都会执行一个进程,此进程由 Dockerfile 的 CMD 或 ENTRYPOINT 指定。如果进程退出时返回码非零,则认为容器发生故障,Kubernetes 就会根据 restartPolicy 重启容器。

 

第一步: 下面我们模拟一个容器发生故障的场景,Pod 配置文件如下:

Pod 的 restartPolicy 设置为 OnFailure,默认为 Always。

sleep 10; exit 1 模拟容器启动 10 秒后发生故障。、

 

第二步:执行 kubectl apply 创建 Pod,命名为 healthcheck。[root@ken ~]/# kubectl apply -f healthcheck.yml pod/healthcheck created

 

第三步:过几分钟查看 Pod 的状态:[root@ken ~]/# kubectl get pod -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES healthcheck0/1 CrashLoopBackOff 2 85s 10.244.1.47 host1

可看到容器当前已经重启了 2次。

 

在上面的例子中,容器进程返回值非零,Kubernetes 则认为容器发生故障,需要重启。但有不少情况是发生了故障,但进程并不会退出。比如访问 Web服务器时显示 500内部错误,可能是系统超载,也可能是资源死锁,此时 httpd进程并没有异常退出,在这种情况下重启容器可能是最直接最有效的解决方案,那我们如何利用 Health Check机制来处理这类场景呢?

 

Liveness探测

 

Liveness 探测让用户可以自定义判断容器是否健康的条件。如果探测失败,Kubernetes 就会重启容器。

 

第一步:创建如下 Pod:

启动进程首先创建文件 /tmp/healthy,30秒后删除,在我们的设定中,如果 /tmp/healthy文件存在,则认为容器处于正常状态,反正则发生故障。

livenessProbe 部分定义如何执行 Liveness探测:

 

探测的方法是:通过 cat 命令检查 /tmp/healthy文件是否存在。如果命令执行成功,返回值为零,Kubernetes则认为本次 Liveness探测成功;如果命令返回值非零,本次 Liveness探测失败。

initialDelaySeconds: 10 指定容器启动 10之后开始执行 Liveness探测,我们一般会根据应用启动的准备时间来设置。比如某个应用正常启动要花 30秒,那么 initialDelaySeconds的值就应该大于 30。

periodSeconds: 5 指定每 5秒执行一次 Liveness探测。Kubernetes如果连续执行 3次 Liveness探测均失败,则会杀掉并重启容器。

 

第二步:下面创建 Pod liveness:[root@ken ~]/# kubectl apply -f healthcheck.yml pod/liveness created

 

从配置文件可知,最开始的 30 秒,/tmp/healthy存在,cat命令返回 0,Liveness探测成功

 

第三步:这段时间 kubectl describe pod liveness的 Events部分会显示正常的日志。[root@ken ~]/# kubectl describe pod liveness ... Events: Type Reason Age From Message---- ------ ---- ---- -------Normal Scheduled 30sdefault-scheduler Successfully assigned default/liveness to host1 Normal Pulling 29s kubelet, host1 pulling image"busybox"Normal Pulled 27s kubelet, host1 Successfully pulled image"busybox"Normal Created 27s kubelet, host1 Created container Normal Started 27s kubelet, host1 Started container

 

第四步:35秒后再次查看日志

35 秒之后,日志会显示 /tmp/healthy 已经不存在,Liveness 探测失败。再过几十秒,几次探测都失败后,容器会被重启。[root@ken ~]/# kubectl describe pod liveness ... Events: Type Reason Age From Message---- ------ ---- ---- -------Normal Scheduled 60sdefault-scheduler Successfully assigned default/liveness to host1 Normal Pulling 59s kubelet, host1 pulling image"busybox"Normal Pulled 57s kubelet, host1 Successfully pulled image"busybox"Normal Created 57s kubelet, host1 Created container Normal Started 57s kubelet, host1 Started container Warning Unhealthy 13s (x3 over 23s) kubelet, host1 Liveness probe failed: cat: can't open'/tmp/healthy': No such file or directory

 

第五步:查看pod

可以发现容器开始被重启

 

Readiness 探测 

 

除了 Liveness 探测,Kubernetes Health Check机制还包括 Readiness探测。

 

用户通过 Liveness 探测可以告诉 Kubernetes什么时候通过重启容器实现自愈;Readiness探测则是告诉 Kubernetes什么时候可以将容器加入到 Service负载均衡池中,对外提供服务。

 

第一步:Readiness 探测的配置语法与 Liveness探测完全一样

这个配置文件只是将前面例子中的 liveness 替换为了 readiness,我们看看有什么不同的效果。

 

第二步:部署[root@ken ~]/# kubectl apply -f readness.yml pod/readiness created [root@ken~]/# kubectl getpod readiness NAME READY STATUS RESTARTS AGE readiness0/1 Running 017s [root@ken~]/# kubectl getpod readiness NAME READY STATUS RESTARTS AGE readiness1/1 Running 018s [root@ken~]/# kubectl getpod readiness NAME READY STATUS RESTARTS AGE readiness0/1 Running 0 84s

Pod readiness 的 READY 状态经历了如下变化:

 

刚被创建时,READY 状态为不可用。

15 秒后(initialDelaySeconds + periodSeconds),第一次进行 Readiness 探测并成功返回,设置 READY 为可用。

30 秒后,/tmp/healthy 被删除,连续 3 次 Readiness 探测均失败后,READY 被设置为不可用。

 

第三步:通过 kubectl describe pod readiness 也可以看到 Readiness 探测失败的日志。[root@ken ~]/# kubectl describe pod readiness ... Events: Type Reason Age From Message---- ------ ---- ---- -------Normal Scheduled 104sdefault-scheduler Successfully assigned default/readiness to host1 Normal Pulling 103s kubelet, host1 pulling image"busybox"Normal Pulled 101s kubelet, host1 Successfully pulled image"busybox"Normal Created 101s kubelet, host1 Created container Normal Started 100s kubelet, host1 Started container Warning Unhealthy 1s (x14 over 66s) kubelet, host1 Readiness probe failed: cat: can't open'/tmp/healthy': No such file or directory

 

下面对 Liveness 探测和 Readiness探测做个比较:

 

Liveness 探测和 Readiness探测是两种 Health Check机制,如果不特意配置,Kubernetes将对两种探测采取相同的默认行为,即通过判断容器启动进程的返回值是否为零来判断探测是否成功。

 

两种探测的配置方法完全一样,支持的配置参数也一样。不同之处在于探测失败后的行为:Liveness 探测是重启容器;Readiness探测则是将容器设置为不可用,不接收 Service转发的请求。

 

Liveness 探测和 Readiness探测是独立执行的,二者之间没有依赖,所以可以单独使用,也可以同时使用。用 Liveness探测判断容器是否需要重启以实现自愈;用 Readiness探测判断容器是否已经准备好对外提供服务。

 

健康检测在scale up中的应用

 

对于多副本应用,当执行 Scale Up 操作时,新副本会作为 backend被添加到 Service的负责均衡中,与已有副本一起处理客户的请求。考虑到应用启动通常都需要一个准备阶段,比如加载缓存数据,连接数据库等,从容器启动到正真能够提供服务是需要一段时间的。我们可以通过 Readiness探测判断容器是否就绪,避免将请求发送到还没有 ready的 backend。

 

第一步:下面是示例应用的配置文件。

重点关注 readinessProbe 部分。这里我们使用了不同于 exec的另一种探测方法 -- httpGet。Kubernetes对于该方法探测成功的判断条件是 http请求的返回代码在 200-400之间。

 

schema 指定协议,支持 HTTP(默认值)和 HTTPS。

path 指定访问路径。

port 指定端口。

 

上面配置的作用是:

 

容器启动 10 秒之后开始探测。

如果 http://[container_ip]:8080/healthy 返回代码不是 200-400,表示容器没有就绪,不接收 Service web-svc的请求。

每隔 5 秒再探测一次。

直到返回代码为 200-400,表明容器已经就绪,然后将其加入到 web-svc的负责均衡中,开始处理客户请求。

探测会继续以 5 秒的间隔执行,如果连续发生 3次失败,容器又会从负载均衡中移除,直到下次探测成功重新加入。

 

健康检测在滚动更新中的应用

 

现有一个正常运行的多副本应用,接下来对应用进行更新(比如使用更高版本的 image),Kubernetes会启动新副本,然后发生了如下事件:

 

正常情况下新副本需要 10 秒钟完成准备工作,在此之前无法响应业务请求。

但由于人为配置错误,副本始终无法完成准备工作(比如无法连接后端数据库)。

先别继续往下看,现在请花一分钟思考这个问题:如果没有配置 Health Check,会出现怎样的情况?

 

因为新副本本身没有异常退出,默认的 Health Check 机制会认为容器已经就绪,进而会逐步用新副本替换现有副本,其结果就是:当所有旧副本都被替换后,整个应用将无法处理请求,无法对外提供服务。如果这是发生在重要的生产系统上,后果会非常严重。

如果正确配置了 Health Check,新副本只有通过了 Readiness探测,才会被添加到 Service;如果没有通过探测,现有副本不会被全部替换,业务仍然正常进行。

 

第一步:用如下配置文件 app.v1.yml 模拟一个 10副本的应用:

10 秒后副本能够通过 Readiness 探测。

 

第二步:执行部署操作[root@ken ~]/# kubectl apply -f app.v1.yml deployment.apps/app created [root@ken~]/# kubectl getdeployment app NAME READY UP-TO-DATE AVAILABLE AGE app10/10 10 1071s [root@ken~]/# kubectl getpod NAME READY STATUS RESTARTS AGE app-56878b4676-45bmq 1/1 Running 080s app-56878b4676-5w5ck 1/1 Running 080s app-56878b4676-6mnvz 1/1 Running 080s app-56878b4676-fb8fk 1/1 Running 080s app-56878b4676-gvdbr 1/1 Running 080s app-56878b4676-lppmt 1/1 Running 080s app-56878b4676-lwr6p 1/1 Running 080s app-56878b4676-n8l7w 1/1 Running 080s app-56878b4676-rn68g 1/1 Running 080s app-56878b4676-z8ltd 1/1 Running 0 80s

 

第三步:接下来滚动更新应用,配置文件 app.v2.yml 如下:

很显然,由于新副本中不存在 /tmp/healthy,是无法通过 Readiness探测的。验证如下:

 

第二步:查看探测结果、[root@ken ~]/# kubectl apply -f app.v2.yml --record deployment.apps/app configured [root@ken~]/# kubectl getdeployment app NAME READY UP-TO-DATE AVAILABLE AGE app8/10 5 84m24s [root@ken~]/# kubectl getdeployment app NAME READY UP-TO-DATE AVAILABLE AGE app8/10 5 84m34s [root@ken~]/# kubectl getdeployment app NAME READY UP-TO-DATE AVAILABLE AGE app8/10 5 84m37s [root@ken~]/# kubectl getpod NAME READY STATUS RESTARTS AGE app-56878b4676-45bmq 1/1 Running 04m45s app-56878b4676-5w5ck 1/1 Running 04m45s app-56878b4676-fb8fk 1/1 Running 04m45s app-56878b4676-gvdbr 1/1 Running 04m45s app-56878b4676-lppmt 1/1 Running 04m45s app-56878b4676-lwr6p 1/1 Running 04m45s app-56878b4676-n8l7w 1/1 Running 04m45s app-56878b4676-rn68g 1/1 Running 04m45s app-84fc656775-6s88l 0/1 Running 042s app-84fc656775-drg26 0/1 Running 042s app-84fc656775-hjpsd 0/1 Running 042s app-84fc656775-npn2t 0/1 Running 042s app-84fc656775-slknn 0/1 Running 0 42s

先关注 kubectl get pod 输出:

 

从 Pod 的 AGE栏可判断,最后 5个 Pod是新副本,目前处于 NOT READY状态。

旧副本从最初 10 个减少到 8个。

再来看 kubectl get deployment app 的输出:

DESIRED 10 表示期望的状态是 10个 READY的副本。

CURRENT 13 表示当前副本的总数:即 8个旧副本 + 5个新副本。

UP-TO-DATE 5 表示当前已经完成更新的副本数:即 5个新副本。

AVAILABLE 8 表示当前处于 READY状态的副本数:即 8个旧副本。

在我们的设定中,新副本始终都无法通过 Readiness 探测,所以这个状态会一直保持下去。

 

上面我们模拟了一个滚动更新失败的场景。不过幸运的是:Health Check 帮我们屏蔽了有缺陷的副本,同时保留了大部分旧副本,业务没有因更新失败受到影响。

接下来我们要回答:为什么新创建的副本数是 5 个,同时只销毁了 2个旧副本?

原因是:滚动更新通过参数 maxSurge 和 maxUnavailable来控制副本替换的数量。

 

maxSurge

此参数控制滚动更新过程中副本总数的超过 DESIRED 的上限。maxSurge可以是具体的整数(比如 3),也可以是百分百,向上取整。maxSurge默认值为 25%。

在上面的例子中,DESIRED 为 10,那么副本总数的最大值为:

roundUp(10 + 10 /* 25%) = 13

所以我们看到 CURRENT 就是 13。

 

maxUnavailable

此参数控制滚动更新过程中,不可用的副本相占 DESIRED 的最大比例。 maxUnavailable可以是具体的整数(比如 3),也可以是百分百,向下取整。maxUnavailable默认值为 25%。

在上面的例子中,DESIRED 为 10,那么可用的副本数至少要为:

10 - roundDown(10 /* 25%) = 8

所以我们看到 AVAILABLE 就是 8。

maxSurge 值越大,初始创建的新副本数量就越多;maxUnavailable值越大,初始销毁的旧副本数量就越多。

理想情况下,我们这个案例滚动更新的过程应该是这样的:

首先创建 3 个新副本使副本总数达到 13个。

然后销毁 2 个旧副本使可用的副本数降到 8个。

当这 2 个旧副本成功销毁后,可再创建 2个新副本,使副本总数保持为 13个。

当新副本通过 Readiness 探测后,会使可用副本数增加,超过 8。

进而可以继续销毁更多的旧副本,使可用副本数回到 8。

旧副本的销毁使副本总数低于 13,这样就允许创建更多的新副本。

这个过程会持续进行,最终所有的旧副本都会被新副本替换,滚动更新完成。

 

更新失败回退

 [root@ken ~]/# kubectl rollout history deployment app deployment.extensions/app REVISION CHANGE-CAUSE1 2 kubectl apply --filename=app.v2.yml --record=tr [root@ken~]/# kubectl rollout undo deployment app --to-revision=1deployment.extensions/app rolled back [root@ken~]/# kubectl getdeployment app NAME READY UP-TO-DATE AVAILABLE AGE app10/10 10 10 10m

 

如果要定制 maxSurge 和 maxUnavailable,可以如下配置:

 

版权声明
本文为[技术流ken]所创,转载请带上原文链接,感谢
https://www.cnblogs.com/kenken2018/p/10337471.html

编程之旅,人生之路,不止于编程,还有诗和远方。
阅代码原理,看框架知识,学企业实践;
赏诗词,读日记,踏人生之路,观世界之行;

支付宝红包,每日可领