Kubernetes EKS 入口和 TLS

Question

我正在尝试为应用程序完成一项非常常见的任务：

分配证书并使用 TLS/HTTPS 保护它。

我花了将近一天的时间浏览文档并尝试多种不同的策略来使其正常工作，但对我来说没有任何效果。

最初，我按照此处的文档使用 Helm 在 EKS 上设置 nginx-ingress：https://github.com/nginxinc/kubernetes-ingress。我尝试使用以下配置使示例应用程序正常工作（咖啡馆）：

apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  name: cafe-ingress
spec:
  tls:
  - hosts:
    - cafe.example.com
    secretName: cafe-secret
  rules:
  - host: cafe.example.com
    http:
      paths:
      - path: /tea
        backend:
          serviceName: tea-svc
          servicePort: 80
      - path: /coffee
        backend:
          serviceName: coffee-svc
          servicePort: 80

入口和所有支持的服务/部署工作正常，但缺少一件主要的事情：入口没有关联的地址/ELB：

NAME           HOSTS                 ADDRESS   PORTS     AGE
cafe-ingress   cafe.example.com                80, 443   12h

Service LoadBalancers 创建 ELB 资源，即：

testnodeapp    LoadBalancer   172.20.4.161     a64b46f3588fe...   80:32107/TCP     13h

但是，Ingress 并未创建地址。如何在 EKS 上外部公开 Ingress 控制器以处理 TLS/HTTPS？

Answer 1

我已经复制了通过安全入口在 EKS 上启动和运行所需的每一个步骤。我希望这可以帮助其他想要快速安全地在 EKS 上获取应用程序的人。

在 EKS 上启动和运行：

1. 使用 CloudFormation 模板部署 EKS here：请记住，我已使用 CidrIp：193.22.12.32/32 限制访问。更改此项以满足您的需要。

2. 安装客户端工具。按照指南here。

3. 配置客户端。按照指南here。
4. 启用工作节点。按照指南here。

您可以通过运行验证集群是否已启动并正在运行：

kubectl get svc

现在您使用 nginx 入口启动一个测试应用程序。

注意：所有东西都放在 ingress-nginx 命名空间下。理想情况下，这将被模板化以在不同的命名空间下构建，但就本示例而言，它可以工作。

部署 nginx-ingress：

kubectl apply -f https://raw.githubusercontent.com/kubernetes/ingress-nginx/master/deploy/mandatory.yaml
kubectl apply -f https://raw.githubusercontent.com/kubernetes/ingress-nginx/master/deploy/provider/cloud-generic.yaml

从here 获取 rbac.yml。运行：

kubectl apply -f rbac.yml

准备好用于测试的证书和密钥。像这样创建必要的秘密：

kubectl create secret tls cafe-secret --key mycert.key --cert mycert.crt -n ingress-nginx

从here 复制coffee.yml。从here 复制coffee-ingress.yml。更新您要在其下运行它的域。像这样运行它们

kubectl apply -f coffee.yaml
kubectl apply -f coffee-ingress.yaml

更新您的域的 CNAME 以指向以下地址：

kubectl get ing -n ingress-nginx -o wide

刷新 DNS 缓存并测试域。您应该获得一个包含请求统计信息的安全页面。我已经多次复制了这个，所以如果它对你不起作用，请检查步骤、配置和证书。此外，检查 nginx-ingress-controller* pod 上的日志。

kubectl logs pod/nginx-ingress-controller-*********** -n ingress-nginx

这应该可以让你知道出了什么问题。

Answer 2

要使Ingress resource 工作，集群必须配置Ingress controller。

这与其他类型的控制器不同，其他类型的控制器通常作为 kube-controller-manager 二进制文件的一部分运行， 并且通常作为集群创建的一部分自动启动。

对于带有helm 的 EKS，您可以尝试：

helm registry install quay.io/coreos/alb-ingress-controller-helm

接下来，配置 Ingress 资源：

apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  name: test-ingress
  annotations:
    kubernetes.io/ingress.class: nginx
    kubernetes.io/tls-acme: 'true'
spec:
  rules:
  - host: YOUR_DOMAIN
    http:
      paths:
      - path: /
        backend:
          serviceName: ingress-example-test
          servicePort: 80
  tls:
  - secretName: custom-tls-cert
    hosts:
    - YOUR_DOMAIN

应用配置：

kubectl create -f ingress.yaml

接下来，使用 TLS 证书创建密钥：

kubectl create secret tls custom-tls-cert --key /path/to/tls.key --cert /path/to/tls.crt

并在 Ingress 定义中引用它们：

tls:
  - secretName: custom-tls-cert
    hosts:
    - YOUR_DOMAIN

以下配置示例展示了如何配置 Ingress 控制器：

apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: nginx-ingress-controller
  labels:
    k8s-app: nginx-ingress-controller
spec:
  replicas: 1
  selector:
    matchLabels:
      k8s-app: nginx-ingress-controller
  template:
    metadata:
      labels:
        k8s-app: nginx-ingress-controller
    spec:
      # hostNetwork makes it possible to use ipv6 and to preserve the source IP correctly regardless of docker configuration
      # however, it is not a hard dependency of the nginx-ingress-controller itself and it may cause issues if port 10254 already is taken on the host
      # that said, since hostPort is broken on CNI (https://github.com/kubernetes/kubernetes/issues/31307) we have to use hostNetwork where CNI is used
      # like with kubeadm
      # hostNetwork: true
      terminationGracePeriodSeconds: 60
      containers:
      - image: quay.io/kubernetes-ingress-controller/nginx-ingress-controller:0.17.1
        name: nginx-ingress-controller
        readinessProbe:
          httpGet:
            path: /healthz
            port: 10254
            scheme: HTTP
        livenessProbe:
          httpGet:
            path: /healthz
            port: 10254
            scheme: HTTP
          initialDelaySeconds: 10
          timeoutSeconds: 1
        ports:
        - containerPort: 80
          hostPort: 80
        - containerPort: 443
          hostPort: 443
        env:
          - name: POD_NAME
            valueFrom:
              fieldRef:
                fieldPath: metadata.name
          - name: POD_NAMESPACE
            valueFrom:
              fieldRef:
                fieldPath: metadata.namespace
        args:
        - /nginx-ingress-controller
        - --default-backend-service=$(POD_NAMESPACE)/default-http-backend
        - --publish-service=$(POD_NAMESPACE)/nginx-ingress-lb

接下来，应用上述配置，然后您可以检查服务是否暴露了外部 IP：

kubectl get service nginx-controller -n kube-system

外部 IP 是一个地址，它终止于由外部配置的路由机制配置的 Kubernetes 节点之一。 在服务定义中配置时，一旦请求到达节点，流量就会重定向到服务端点。

Documentation of Kubernetes 提供了更多示例。