【问题标题】:Kubernetes bare metal NFS PVs error with elasticsearch helm chartKubernetes 裸机 NFS PVs 错误与弹性搜索掌舵图
【发布时间】:2019-03-05 03:47:59
【问题描述】:

我在 Ubuntu 18.04 LTS 上使用 conjure-up kubernetes 在裸机专用服务器上部署了 Kubernetes。这也意味着节点是 LXD 容器。

我需要 Elasticsearch 和 MongoDB 的持久卷,经过一些研究后,我决定在我的部署中使用它的最简单方法是 NFS 共享。 我在主机操作系统中创建了一个 NFS 共享,配置如下:

/srv/volumes 127.0.0.1(rw) 10.78.69.*(rw,no_root_squash)

10.78.69.*似乎是Kubernetes使用的桥接网络,至少看ifconfig没有别的了。

然后我开始创建两个文件夹,/srv/volumes/1 和 /srv/volumes/2 我从这些文件夹中创建了两个 PV,第一个具有此配置(第二个类似):

apiVersion: v1
kind: PersistentVolume
metadata:
  name: elastic-pv1
spec:
  capacity:
    storage: 30Gi
  accessModes:
    - ReadWriteOnce
  persistentVolumeReclaimPolicy: Retain
  nfs:
    path: /srv/volumes/1
    server: 10.78.69.1

然后我部署 Elasticsearch helm chart (https://github.com/helm/charts/tree/master/incubator/elasticsearch),它创建了两个成功绑定到我的 PV 的声明。

问题是之后容器似乎遇到了错误:

错误:无法启动容器“sysctl”:来自守护进程的错误响应:linux 运行时规范设备:lstat /dev/.lxc/proc/17848/fdinfo/24:没有这样的文件或目录 回退重启失败的容器

Pods view

Persistent Volume Claims view

我有点卡在这里。我已尝试搜索错误,但无法找到解决此问题的方法。

在我将/etc/exports 中的允许 IP 设置为 10.78.69.* 之前,Kubernetes 会告诉我它在尝试挂载时从 NFS 服务器获得“权限被拒绝”,所以我假设现在挂载成功,因为该错误消失了。

编辑:

我决定清除 helm 部署并重试,这次使用不同的存储类型本地存储卷。我按照 Canonical 的指南创建了它们,并且我知道它们可以工作,因为我以这种方式为 MongoDB 设置了一个,并且效果很好。

elasticsearch helm 部署的配置发生了变化,因为现在我必须为创建持久卷的节点设置关联:

values.yaml:

data:
    replicas: 1,
    nodeSelector:
        elasticsearch: data
master:
    replicas: 1,
    nodeSelector:
        elasticsearch: master
client:
    replicas: 1,
cluster:
    env: {MINIMUM_MASTER_NODES: "1"}

我使用部署

helm install --name site-search -f values.yaml 孵化器/elasticsearch

这些是唯一的变化,但 elasticsearch 仍然存在相同的问题。

附加信息:

kubectl version:

Client Version: version.Info{Major:"1", Minor:"11", GitVersion:"v1.11.3", GitCommit:"a4529464e4629c21224b3d52edfe0ea91b072862", GitTreeState:"clean", BuildDate:"2018-09-09T18:02:47Z", GoVersion:"go1.10.3", Compiler:"gc", Platform:"linux/amd64"}
Server Version: version.Info{Major:"1", Minor:"11", GitVersion:"v1.11.3", GitCommit:"a4529464e4629c21224b3d52edfe0ea91b072862", GitTreeState:"clean", BuildDate:"2018-09-09T17:53:03Z", GoVersion:"go1.10.3", Compiler:"gc", Platform:"linux/amd64"}

弹性搜索图像是舵图中的默认图像:

docker.elastic.co/elasticsearch/elasticsearch-oss:6.4.1

各种 pod(master、client、data)的日志都是空的。 错误是一样的。

【问题讨论】:

  • 容器做的第一件事似乎是调用 sysctl:i.imgur.com/iVj8ni7.png 我可以推测这是失败的原因。所以在 Elasticsearch 甚至在这些容器中启动之前。

标签: docker kubernetes nfs kubernetes-helm cloud-bare-metal


【解决方案1】:

我自己在主机上运行 sysctl -w vm.max_map_count=262144 并删除了尝试执行此操作失败的“sysctl”初始化容器,从而解决了这个问题。

【讨论】:

    【解决方案2】:

    这似乎是一个经常出现的问题,并且在各种环境和配置中都可以观察到。然而,目前还不清楚究竟是什么原因造成的。您能否提供有关您的软件版本、日志片段等的更多详细信息?

    【讨论】:

    • 我添加了更多信息并更新了状态,因为我清除了上次部署并再次尝试使用不同类型的持久存储。
    猜你喜欢
    • 2019-03-15
    • 2017-04-08
    • 1970-01-01
    • 2020-05-19
    • 2022-11-11
    • 1970-01-01
    • 2021-11-23
    • 2021-06-13
    • 2019-01-22
    相关资源
    最近更新 更多