k8s之Pod健康检测

k8s之Pod健康检测

Pod健康检测机制

对于Pod的健康状态检测，kubernetes提供了两类探针(Probe)来执行对Pod的健康状态检测：

LivenessProbe探针：用于判断容器是否存活，即Pod是否为running状态，如果LivenessProbe探针探测到容器不健康，则kubelet将kill掉容器，并根据容器的重启策略是否重启，如果一个容器不包含LivenessProbe探针，则Kubelet认为容器的LivenessProbe探针的返回值永远成功。 ReadinessProbe探针：用于判断容器是否启动完成，即容器的Ready是否为True，可以接收请求，如果ReadinessProbe探测失败，则容器的Ready将为False，控制器将此Pod的Endpoint从对应的service的Endpoint列表中移除，从此不再将任何请求调度此Pod上，直到下次探测成功。

每类探针都支持三种探测方法：

exec：通过执行命令来检查服务是否正常，针对复杂检测或无HTTP接口的服务，命令返回值为0则表示容器健康。 httpGet：通过发送http请求检查服务是否正常，返回200-399状态码则表明容器健康。 tcpSocket：通过容器的IP和Port执行TCP检查，如果能够建立TCP连接，则表明容器健康。

探针探测的结果有以下三者之一：

Success：Container通过了检查。 Failure：Container未通过检查。 Unknown：未能执行检查，因此不采取任何措施。

LivenessProbe探针配置

示例一：通过exec方式做健康探测

exec-liveness.yaml apiVersion: v1 kind: Pod metadata: labels: test: liveness name: liveness-exec spec: containers: - name: liveness image: k8s.gcr.io/busybox args: - /bin/sh - -c - touch /tmp/healthy; sleep 30; rm -rf /tmp/healthy; sleep 600 livenessProbe: exec: command: - cat - /tmp/healthy initialDelaySeconds: 5 periodSeconds: 5

在该配置文件中，对容器执行livenessProbe检查，periodSeconds字段指定kubelet每5s执行一次检查，检查的命令为cat /tmp/healthy，initialDelaySeconds字段告诉kubelet应该在执行第一次检查之前等待5秒，如果命令执行成功，则返回0，那么kubelet就认为容器是健康的，如果为非0，则Kubelet会Kill掉容器并根据重启策略来决定是否需要重启。

当容器启动时，它会执行以下命令：

/bin/sh -c "touch /tmp/healthy; sleep 30; rm -rf /tmp/healthy; sleep 600"

对于容器的前30秒，有一个/tmp/healthy文件。因此，在前30秒内，该命令cat /tmp/healthy返回成功代码。30秒后，cat /tmp/healthy返回失败代码。

创建Pod：

kubectl create -f describe pod liveness-exec

输出表明尚未探测到失败：

FirstSeen LastSeen Count From SubobjectPath Type Reason Message --------- -------- ----- ---- ------------- -------- ------ ------- 24s 24s 1 {default-scheduler } Normal Scheduled Successfully assigned liveness-exec to worker0 23s 23s 1 {kubelet worker0} spec.containers{liveness} Normal Pulling pulling image "k8s.gcr.io/busybox" 23s 23s 1 {kubelet worker0} spec.containers{liveness} Normal Pulled Successfully pulled image "k8s.gcr.io/busybox" 23s 23s 1 {kubelet worker0} spec.containers{liveness} Normal Created Created container with docker id 86849c15382e; Security:[seccomp=unconfined] 23s 23s 1 {kubelet worker0} spec.containers{liveness} Normal Started Started container with docker id 86849c15382e

35秒后，再次查看Pod事件：

kubectl describe pod liveness-exec

在输出的中显示探测失败，并且容器已被杀死并重新创建。

FirstSeen LastSeen Count From SubobjectPath Type Reason Message --------- -------- ----- ---- ------------- -------- ------ ------- 37s 37s 1 {default-scheduler } Normal Scheduled Successfully assigned liveness-exec to worker0 36s 36s 1 {kubelet worker0} spec.containers{liveness} Normal Pulling pulling image "k8s.gcr.io/busybox" 36s 36s 1 {kubelet worker0} spec.containers{liveness} Normal Pulled Successfully pulled image "k8s.gcr.io/busybox" 36s 36s 1 {kubelet worker0} spec.containers{liveness} Normal Created Created container with docker id 86849c15382e; Security:[seccomp=unconfined] 36s 36s 1 {kubelet worker0} spec.containers{liveness} Normal Started Started container with docker id 86849c15382e 2s 2s 1 {kubelet worker0} spec.containers{liveness} Warning Unhealthy Liveness probe failed: cat: can't open '/tmp/healthy': No such file or directory

再等30秒，确认Container已重新启动：

kubectl get pod liveness-exec

下面输出中RESTARTS的次数已增加：

AME READY STATUS RESTARTS AGE liveness-exec 1/1 Running 1 1m

示例二：通过HTTP方式做健康探测

pods/probe/ apiVersion: v1 kind: Pod metadata: labels: test: liveness name: liveness-http spec: containers: - name: liveness image: k8s.gcr.io/liveness args: - /server livenessProbe: httpGet: path: /healthz port: 8080 httpHeaders: - name: X-Custom-Header value: Awesome initialDelaySeconds: 3 periodSeconds: 3

在配置文件中，使用k8s.gcr.io/liveness镜像，创建出一个Pod，其中periodSeconds字段指定kubelet每3秒执行一次探测，initialDelaySeconds字段告诉kubelet延迟等待3秒，探测方式为向容器中运行的服务发送HTTP GET请求，请求8080端口下的/healthz, 任何大于或等于200且小于400的代码表示成功。任何其他代码表示失败。

创建此Pod

kubectl create -f describe pod liveness-http

httpGet探测方式有如下可选的控制字段 host：要连接的主机名，默认为Pod IP，可以在request head中设置host头部。 scheme: 用于连接host的协议，默认为HTTP。 path：http服务器上的访问URI。 httpHeaders：自定义HTTP请求headers，HTTP允许重复headers。 port： 容器上要访问端口号或名称。

示例三：通过TCP方式做健康探测

Kubelet将尝试在指定的端口上打开容器上的套接字，如果能建立连接，则表明容器健康。

pods/probe/tcp-liveness-readiness.yaml apiVersion: v1 kind: Pod metadata: name: goproxy labels: app: goproxy spec: containers: - name: goproxy image: k8s.gcr.io/goproxy:0.1 ports: - containerPort: 8080 readinessProbe: tcpSocket: port: 8080 initialDelaySeconds: 5 periodSeconds: 10 livenessProbe: tcpSocket: port: 8080 initialDelaySeconds: 15 periodSeconds: 20

TCP检查方式和HTTP检查方式非常相似，示例中两种探针都使用了，在容器启动5秒后，kubelet将发送第一个readinessProbe探针，这将连接到容器的8080端口，如果探测成功，则该Pod将被标识为ready，10秒后，kubelet将进行第二次连接。除此之后，此配置还包含了livenessProbe探针，在容器启动15秒后，kubelet将发送第一个livenessProbe探针，仍然尝试连接容器的8080端口，如果连接失败则重启容器。创建：

kubectl create -f describe pod goproxy

当容器有多个端口时，通常会给每个端口命名，所以在使用探针探测时，也可以直接写自定义的端口名称

ports: - name: liveness-port containerPort: 8080 hostPort: 8080 livenessProbe: httpGet: path: /healthz port: liveness-port

ReadinessProbe探针配置：

ReadinessProbe探针的使用场景livenessProbe稍有不同，有的时候应用程序可能暂时无法接受请求，比如Pod已经Running了，但是容器内应用程序尚未启动成功，在这种情况下，如果没有ReadinessProbe，则Kubernetes认为它可以处理请求了，然而此时，我们知道程序还没启动成功是不能接收用户请求的，所以不希望kubernetes把请求调度给它，则使用ReadinessProbe探针。ReadinessProbe和livenessProbe可以使用相同探测方式，只是对Pod的处置方式不同，ReadinessProbe是将Pod IP:Port从对应的EndPoint列表中删除，而livenessProbe则Kill容器并根据Pod的重启策略来决定作出对应的措施。ReadinessProbe探针探测容器是否已准备就绪，如果未准备就绪则kubernetes不会将流量转发给此Pod。

ReadinessProbe探针与livenessProbe一样也支持exec、httpGet、TCP的探测方式，配置方式相同，只不过是将livenessProbe字段修改为ReadinessProbe。

readinessProbe: exec: command: - cat - /tmp/healthy initialDelaySeconds: 5 periodSeconds: 5

ReadinessProbe探针的HTTP、TCP的探测方式也与livenessProbe的基本一致。

示例四： ReadinessProbe示例

现在来看一个加入ReadinessProbe探针和一个没有ReadinessProbe探针的示例：该示例中，创建了一个deploy，名为JavaApp，启动的容器运行一个java应用程序，程序监听端口为8080。

# 没有加入ReadinessProbe cat JavaApp.yaml --- kind: Deployment apiVersion: apps/v1 metadata: name: JavaApp namespace: default spec: replicas: 1 selector: matchLabels: test: JavaApp template: metadata: labels: test: JavaApp spec: affinity: nodeAffinity: preferredDuringSchedulingIgnoredDuringExecution: - weight: 1 preference: matchExpressions: - key: env operator: In values: - testing containers: - image: 192.168.1.183:8081/jar/JavaApp:29 name: JavaApp ports: - containerPort: 8080 imagePullSecrets: - name: myregistrykey --- kind: Service apiVersion: v1 metadata: name: JavaApp namespace: default spec: selector: test: JavaApp ports: - protocol: TCP port: 8080

创建：

kubectl create -f JavaApp.yaml

刚创建后，等几秒钟后，查看Pod状态：

$ kubectl get pod NAME READY STATUS RESTARTS AGE JavaApp-579b45567c-tdsrk 1/1 Running 0 6s

从上面可以看到，Pod刚启动6s，自身状态已Running，其READ字段，1/1 表示1个容器状态已准备就绪了，此时，对于kubernetes而言，它已经可以接收请求了，而实际上服务还无法访问，因为JAVA程序还尚启动起来，本人实验中的JAVA程序启动时间大概需要50s，50s后方可正常访问，所以针对此类程序，必须配置ReadinessProbe。

#加入readinessProbe kind: Deployment apiVersion: apps/v1 metadata: name: JavaApp namespace: default spec: replicas: 1 selector: matchLabels: test: JavaApp template: metadata: labels: test: JavaApp spec: affinity: nodeAffinity: preferredDuringSchedulingIgnoredDuringExecution: - weight: 1 preference: matchExpressions: - key: env operator: In values: - testing containers: - image: 192.168.1.183:8081/jar/JavaApp:29 name: JavaApp ports: - containerPort: 8080 readinessProbe: tcpSocket: port: 8080 initialDelaySeconds: 60 periodSeconds: 10 imagePullSecrets: - name: myregistrykey --- kind: Service apiVersion: v1 metadata: name: JavaApp namespace: default spec: selector: test: JavaApp ports: - protocol: TCP port: 8080

在该配置文件中，ReadinessProbe探针的探测方式为tcpSocket，因为程序监听在8080端口，所以这里探测为对8080建立连接。程序启动时间大概50多秒，所以这里第一次探测时间是在Pod Runing后60秒后，间隔10秒后执行第二次探测。创建Pod：

kubectl create -f JavaApp.yaml

创建后等50秒查看状态：

$ kubectl get pod -o wide NAME READY STATUS RESTARTS AGE IP NODE JavaApp-64b58cfd5c-kpc4s 0/1 Running 0 55s 172.26.91.109 192.168.1.180

Pod虽然已处于Runnig状态，但是由于第一次探测时间未到，所以READY字段为0/1，即容器的状态为未准备就绪，在未准备就绪的情况下，其Pod对应的Service下的Endpoint也为空，所以才不会有任何请求被调度进来。

$ kubectl get endpoints NAME ENDPOINTS JavaApp

当通过第一次探测的检查通过后，容器的状态自然会转为READ状态。

$ kubectl get pod NAME READY STATUS RESTARTS AGE JavaApp-64b58cfd5c-qj886 1/ Running 0 1m $ kubectl get endpoints NAME ENDPOINTS AGE JavaApp 172.26.91.113:8080 1m

此后根据指定的间隔时间10s后再次探测，如果不通过，则kubernetes就会将Pod IP从EndPoint列表中移除。

配置探针(Probe)相关属性

探针(Probe)有许多可选字段，可以用来更加精确的控制Liveness和Readiness两种探针的行为(Probe)：

initialDelaySeconds：Pod启动后延迟多久才进行检查，单位：秒。 periodSeconds：检查的间隔时间，默认为10，单位：秒。 timeoutSeconds：探测的超时时间，默认为1，单位：秒。 successThreshold：探测失败后认为成功的最小连接成功次数，默认为1，在Liveness探针中必须为1，最小值为1。 failureThreshold：探测失败的重试次数，重试一定次数后将认为失败，在readiness探针中，Pod会被标记为未就绪，默认为3，最小值为1。

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。