【问题标题】:Using client-go to `kubectl apply` against the Kubernetes API directly with multiple types in a single YAML file在单个 YAML 文件中使用多种类型直接针对 Kubernetes API 使用 client-go to `kubectl apply`
【发布时间】:2020-03-06 02:41:37
【问题描述】:

我正在使用https://github.com/kubernetes/client-go,一切正常。

我有一个官方 Kubernetes 仪表板的清单 (YAML):https://raw.githubusercontent.com/kubernetes/dashboard/v2.0.0-beta4/aio/deploy/recommended.yaml

我想在 Go 代码中模仿 kubectl apply 这个清单,使用 client-go。

我知道我需要将 YAML 字节编组(取消)编组为包中定义的正确 API 类型:https://github.com/kubernetes/api

我已经成功地将单个 API 类型 Createed 到我的集群中,但是我该如何为包含不同类型列表的清单执行此操作?有没有支持这些不同类型的资源kind: List*

我目前的解决方法是使用 csplit 以 --- 作为分隔符来拆分 YAML 文件

csplit /path/to/recommended.yaml /---/ '{*}' --prefix='dashboard.' --suffix-format='%03d.yaml'

接下来,我遍历新创建的 (14) 个部分,读取它们的字节,打开 UniversalDeserializer 解码器返回的对象类型,并使用我的 k8s 客户端集调用正确的 API 方法。

我想以编程方式执行此操作,以便将仪表板的任何新版本更新到我的集群中。我还需要为 Metrics Server 和许多其他资源执行此操作。另一种(可能更简单)的方法是将安装了 kubectl 的代码发送到容器映像并直接调用kubectl apply -f -;但这意味着我还需要将 kube 配置写入磁盘或者内联传递,以便 kubectl 可以使用它。

我发现这个问题很有帮助:https://github.com/kubernetes/client-go/issues/193 解码器住在这里:https://github.com/kubernetes/apimachinery/tree/master/pkg/runtime/serializer

它在 client-go 中暴露在这里:https://github.com/kubernetes/client-go/blob/master/kubernetes/scheme/register.go#L69

我还查看了 kubectl 使用的 RunConvert 方法:https://github.com/kubernetes/kubernetes/blob/master/pkg/kubectl/cmd/convert/convert.go#L139 并假设我可以提供自己的 genericclioptions.IOStreams 来获取输出?

It looks like RunConvert is on a deprecation path

我还查看了标记为 [client-go] 的其他问题,但大多数使用旧示例或使用定义了单个 kind 的 YAML 文件,此后 API 发生了变化。

编辑:因为我需要为多个集群执行此操作并且正在以编程方式创建集群(AWS EKS API + CloudFormation/eksctl),所以我想尽量减少跨多个集群上下文创建 ServiceAccounts 的开销,跨多个 AWS 账户。理想情况下,创建我的客户端集所涉及的唯一身份验证步骤是使用aws-iam-authenticator 使用集群数据(名称、区域、CA 证书等)获取令牌。有一段时间没有发布aws-iam-authenticator,但是master的内容允许使用第三方角色跨账户角色和外部ID进行传递。 IMO,这比使用ServiceAccount(和IRSA)更干净,因为应用程序(创建并将附加组件应用到这些集群的后端 API)需要与之交互的其他 AWS 服务。

编辑:我最近找到了https://github.com/ericchiang/k8s。在高层次上,它绝对比 client-go 更简单,但不支持这种行为。

【问题讨论】:

  • 不要将 kube 配置写入容器的磁盘尝试使用服务帐户 kubernetes.io/docs/tasks/configure-pod-container/…
  • 你为什么不直接读取 YAML 文件的内容并在你的代码中用^---$ 分割?
  • @Shawyeok 因为这仍然需要我知道文件中的类型。如果不针对多个预期类型(Kubernetes 对象)进行测试,就无法动态获取类型,如果预期类型不存在,则该对象将不会应用于集群(这会导致更多问题)。这也将导致必须为单个组件编写大量代码,而这些代码不能针对多个组件进行扩展。除了解码之外,还调用正确的 API 方法将对象应用到集群。
  • @Simon 嗨,有什么解决办法吗?我想部署 ServiceMesh linkerd2 使用 client-go 和你说的模仿 kubectl apply -f - 的想法。我们应该使用github.com/kubernetes/kubectl/blob/… 不需要手动按种类拆分资源吗?

标签: go kubernetes kubernetes-apiserver client-go


【解决方案1】:

听起来您已经知道如何将 YAML 文件反序列化为 Kubernetes runtime.Objects,但问题是动态部署 runtime.Object 而无需为每种类型编写特殊代码。

kubectl 通过直接与REST API 交互来实现这一点。具体来说,通过resource.Helper

在我的代码中,我有类似的东西:

import (
    meta "k8s.io/apimachinery/pkg/api/meta"
    "k8s.io/cli-runtime/pkg/resource"
    "k8s.io/client-go/kubernetes"
    "k8s.io/client-go/rest"
    "k8s.io/client-go/restmapper"
    "k8s.io/apimachinery/pkg/runtime"
)

func createObject(kubeClientset kubernetes.Interface, restConfig rest.Config, obj runtime.Object) error {
    // Create a REST mapper that tracks information about the available resources in the cluster.
    groupResources, err := restmapper.GetAPIGroupResources(kubeClientset.Discovery())
    if err != nil {
        return err
    }
    rm := restmapper.NewDiscoveryRESTMapper(groupResources)

    // Get some metadata needed to make the REST request.
    gvk := obj.GetObjectKind().GroupVersionKind()
    gk := schema.GroupKind{Group: gvk.Group, Kind: gvk.Kind}
    mapping, err := rm.RESTMapping(gk, gvk.Version)
    if err != nil {
        return err
    }

    name, err := meta.NewAccessor().Name(obj)
    if err != nil {
        return err
    }

    // Create a client specifically for creating the object.
    restClient, err := newRestClient(restConfig, mapping.GroupVersionKind.GroupVersion())
    if err != nil {
        return err
    }

    // Use the REST helper to create the object in the "default" namespace.
    restHelper := resource.NewHelper(restClient, mapping)
    return restHelper.Create("default", false, obj, &metav1.CreateOptions{})
}

func newRestClient(restConfig rest.Config, gv schema.GroupVersion) (rest.Interface, error) {
    restConfig.ContentConfig = resource.UnstructuredPlusDefaultContentConfig()
    restConfig.GroupVersion = &gv
    if len(gv.Group) == 0 {
        restConfig.APIPath = "/api"
    } else {
        restConfig.APIPath = "/apis"
    }

    return rest.RESTClientFor(&restConfig)
}

【讨论】:

  • 凯文您好,感谢您的回答!我没有机会尝试这个,但我不知道package restmapper,这看起来很有希望。暂时接受答案,但很快会重新考虑。
【解决方案2】:

我能够在我的一个项目中实现这一点。我必须使用来自kubectl 的应用命令的大部分源代码才能使其正常工作。

https://github.com/billiford/go-clouddriver/blob/master/pkg/kubernetes/client.go#L63

【讨论】:

    猜你喜欢
    • 2018-10-30
    • 2021-03-27
    • 1970-01-01
    • 2020-12-09
    • 2020-06-14
    • 2020-09-30
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多