灰度发布和蓝绿发布
当对服务进行版本更新升级时，需要使用到滚动升级、分批暂停发布、蓝绿发布以及灰度发布等发布方式。本文将介绍在CCSE集群中如何通过Nginx Ingress Controller来实现应用服务的灰度发布。
背景信息
灰度及蓝绿发布是为新版本创建一个与老版本完全一致的生产环境，在不影响老版本的前提下，按照一定的规则把部分流量切换到新版本，当新版本试运行一段时间没有问题后，将用户的全量流量从老版本迁移至新版本。
其中AB测试就是一种灰度发布方式，一部分用户继续使用老版本的服务，将一部分用户的流量切换到新版本，如果新版本运行稳定，则逐步将所有用户迁移到新版本。
云容器引擎CCSE控制台灰度发布功能的用法如下。
canary-*注解方式：使用canary-* Annotation配置蓝绿发布与灰度发布，canary-* Annotation是社区官方实现的灰度发布方式。
应用场景
基于客户端请求的流量切分场景
假设当前线上环境，您已经有一套服务Service A对外提供7层服务，此时上线了一些新的特性，需要发布上线一个新的版本Service A'。但又不想直接替换Service A服务，而是希望将请求头中包含foo=bar或者Cookie中包含foo=bar的客户端请求转发到Service A'服务中。待运行一段时间稳定后，可将所有的流量从Service A切换到Service A'服务中，再平滑地将Service A服务下线。
基于服务权重的流量切分场景
假设当前线上环境，您已经有一套服务Service B对外提供7层服务，此时修复了一些问题，需要发布上线一个新的版本Service B'。但又不想将所有客户端流量切换到新版本Service B'中，而是希望将20%的流量切换到新版本Service B'中。待运行一段时间稳定后，再将所有的流量从Service B切换到Service B'服务中，再平滑地将Service B服务下线。
针对以上多种不同的应用发布需求，天翼云云容器引擎Ingress Controller支持了多种流量切分方式：
基于Request Header的流量切分，适用于灰度发布以及AB测试场景。
基于Cookie的流量切分，适用于灰度发布以及AB测试场景。
基于Query Param的流量切分，适用于灰度发布以及AB测试场景。
基于服务权重的流量切分，适用于蓝绿发布场景。
canary-*注解方式
注解说明
Nginx Ingress Controller通过下列canary-* Annotation来支持应用服务的灰度发布机制。
Annotation | 说明 | 适用的CCSE Nginx Ingress Controller版本 |
nginx.ingress.kubernetes.io/canary | · 必须设置该Annotation值为 · 取值： o o | ≥v1.3.1 |
nginx.ingress.kubernetes.io/canary-by-header | · 表示基于请求头的名称进行灰度发布。 · 请求头名称的特殊取值： o o · 若没有指定请求头名称的值，则只要该头存在，都会进行流量转发。 | ≥v1.3.1 |
nginx.ingress.kubernetes.io/canary-by-header-value | · 表示基于请求头的值进行灰度发布。 · 需要与 | ≥v1.3.1 |
nginx.ingress.kubernetes.io/canary-by-cookie | · 表示基于Cookie进行灰度发布。 · Cookie名称的特殊取值： o o · 只要存在该Cookie名称，都会进行流量转发。 | ≥v1.3.1 |
nginx.ingress.kubernetes.io/canary-weight | · 表示基于权重进行灰度发布。 · 取值范围：0~权重总值。 · 若未设定总值，默认总值为100。 | ≥v1.3.1 |
操作方式
步骤一：部署服务
部署Nginx服务并通过Nginx Ingress Controller对外提供7层域名访问。
创建Deployment和Service。
创建nginx.yaml。
apiVersion: apps/v1 kind: Deployment metadata: name: old-nginx spec: replicas: 2 selector: matchLabels: run: old-nginx template: metadata: labels: run: old-nginx spec: containers: - image: registry- nm6b -crs.ctyun.com/ccse-sample/old-nginx imagePullPolicy: Always name: old-nginx ports: - containerPort: 80 protocol: TCP restartPolicy: Always --- apiVersion: v1 kind: Service metadata: name: old-nginx spec: ports: - port: 80 protocol: TCP targetPort: 80 selector: run: old-nginx sessionAffinity: None type: NodePort |
执行以下命令，创建Deployment和Service。
kubectl apply -f nginx.yaml |
部署Ingress
创建ingress.yaml。
apiVersion: networking.k8s.io/v1 kind: Ingress metadata: name: gray-release spec: rules: - host: www.example.com http: paths: # 老版本服务。 - path: / backend: service: name: old-nginx port: number: 80 pathType: ImplementationSpecific |
执行以下命令，部署Ingress。
kubectl apply -f ingress.yaml |
测试访问情况。
执行以下命令，获取外部IP。
kubectl get ingress |
执行以下命令，查看路由访问情况。
curl -H "Host: www.example.com" http://<EXTERNAL_IP> |
期望输出
old |
步骤二：灰度发布新版本服务
发布一个新版本的Nginx服务并配置路由规则。
部署新版本的Deployment和Service。
创建nginx1.yaml。
apiVersion: apps/v1 kind: Deployment metadata: name: new-nginx spec: replicas: 1 selector: matchLabels: run: new-nginx template: metadata: labels: run: new-nginx spec: containers: - image: registry-nm6b-crs.ctyun.com/ccse-sample/new-nginx imagePullPolicy: Always name: new-nginx ports: - containerPort: 80 protocol: TCP restartPolicy: Always --- apiVersion: v1 kind: Service metadata: name: new-nginx spec: ports: - port: 80 protocol: TCP targetPort: 80 selector: run: new-nginx sessionAffinity: None type: NodePort |
执行以下命令，创建Deployment和Service。
kubectl apply -f nginx.yaml |
设置访问新版本服务的路由规则。
CCSE支持设置以下三种路由规则，您可以根据实际情况选择路由规则。
设置满足特定规则的客户端才能访问新版本服务。以下示例仅请求头中满足foo=bar的客户端请求才能路由到新版本服务。
按照以上条件，创建新的Ingress资源gray-release-canary。
apiVersion: networking.k8s.io/v1 kind: Ingress metadata: name: gray-release-canary annotations: # 开启Canary。 nginx.ingress.kubernetes.io/canary: "true" # 请求头为foo。 nginx.ingress.kubernetes.io/canary-by-header: "foo" # 请求头foo的值为bar时，请求才会被路由到新版本服务new-nginx中。 nginx.ingress.kubernetes.io/canary-by-header-value: "bar" spec: rules: - host: www.example.com http: paths: # 新版本服务。 - path: / backend: service: name: new-nginx port: number: 80 pathType: ImplementationSpecific |
查看路由访问情况。
执行以下命令，访问服务。
curl -H "Host: www.example.com" http://<EXTERNAL_IP> |
预期输出：
old |
执行以下命令，请求头中满足foo=bar的客户端请求访问服务。
curl -H "Host: www.example.com" -H "foo: bar" http://<EXTERNAL_IP> |
预期输出：
new |
在满足特定规则的基础上设置一定比例的请求被路由到新版本服务中。以下示例要求请求头中满足foo=bar的客户端请求，且仅允许其中50%的流量被路由到新版本服务中。
按照以下内容，修改步骤2中创建的Ingress。
apiVersion: networking.k8s.io/v1 kind: Ingress metadata: name: gray-release-canary annotations: # 开启Canary。 nginx.ingress.kubernetes.io/canary: "true" # 请求头为foo。 nginx.ingress.kubernetes.io/canary-by-header: "foo" # 请求头foo的值为bar时，请求才会被路由到新版本服务new-nginx中。 nginx.ingress.kubernetes.io/canary-by-header-value: "bar" # 在满足上述匹配规则的基础上仅允许50%的流量会被路由到新版本服务new-nginx中。 nginx.ingress.kubernetes.io/canary-weight: "50" spec: rules: - host: www.example.com http: paths: # 新版本服务。 - path: / backend: service: name: new-nginx port: number: 80 pathType: ImplementationSpecific |
查看路由访问情况。
执行以下命令，访问服务。
curl -H "Host: www.example.com" http://<EXTERNAL_IP> |
预期输出：
old |
执行以下命令，请求头中满足foo=bar的客户端请求访问服务。
curl -H "Host: www.example.com" -H "foo: bar" http://<EXTERNAL_IP> |
预期输出：
new |
重复执行以上命令。可以看到，仅请求头中满足foo=bar的客户端请求，且只有50%的流量才能路由到新版本服务。
重复执行以上命令。可以看到，仅请求头中满足foo=bar的客户端请求，且只有50%的流量才能路由到新版本服务。
按照以下内容，修改步骤2创建的Ingress。
apiVersion: networking.k8s.io/v1 kind: Ingress metadata: name: gray-release-canary annotations: # 开启Canary。 nginx.ingress.kubernetes.io/canary: "true" # 仅允许50%的流量会被路由到新版本服务new-nginx中。 # 默认总值为100。 nginx.ingress.kubernetes.io/canary-weight: "50" spec: rules: - host: www.example.com http: paths: # 新版本服务。 - path: / backend: service: name: new-nginx port: number: 80 pathType: ImplementationSpecific |
执行以下命令，查看路由访问情况。
curl -H "Host: www.example.com" http://<EXTERNAL_IP> |
重复执行以上命令，可以看到仅50%的流量路由到新版本服务。
步骤三：删除老版本服务基于Helm的发布管理
系统运行一段时间后，当新版本服务已经稳定并且符合预期后，需要下线老版本的服务 ，仅保留新版本服务在线上运行。为了达到该目标，需要将旧版本的Service指向新版本服务的Deployment，并且删除旧版本的Deployment和新版本的Service。
修改旧版本Service，使其指向新版本服务。
apiVersion: v1 kind: Service metadata: name: old-nginx spec: ports: - port: 80 protocol: TCP targetPort: 80 selector: # 指向新版本服务。 run: new-nginx sessionAffinity: None type: NodePort |
执行以下命令，请求头中满足foo=bar的客户端请求访问服务。
curl -H "Host: www.example.com" http://<EXTERNAL_IP> |
预期输出：
new |
重复执行以上命令，可以看到请求全部被路由到了新版本的服务。
执行以下命令，删除Canary Ingress资源gray-release-canary。
kubectl delete ingress gray-release-canary |
删除旧版本的Deployment和新版本的Service。
执行以下命令，删除旧版本的Deployment。
kubectl delete deploy old-nginx |
执行以下命令，删除新版本的Service。
kubectl delete svc new-nginx |