java.io.IOException：打开的文件太多 kafka-rest 代理答案

【问题标题】：java.io.IOException: Too many open files kafka-rest proxyjava.io.IOException：打开的文件太多 kafka-rest 代理
【发布时间】：2016-11-03 22:02:19
【问题描述】：

我正在使用 confluent kafka 平台。我有一个具有 4 个分区和 2 复制因子的主题。单个 zookeeper、三个代理和 kafka-rest 代理服务器。现在我正在使用 siege 对系统进行负载测试，该系统运行 1000 个用户，其中包含一个 api 列表，而这些 api 反过来又击中了 kafka 生产者。我有我的生产者和消费者使用其余代理 (kafka-rest)。我遇到以下问题：

{ [Error: getaddrinfo EMFILE] code: 'EMFILE', errno: 'EMFILE', syscall: 'getaddrinfo' }

在 kafka-rest 日志中我可以看到：

[2016-02-23 07:13:51,972] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  14 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,973] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  15 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,974] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  12 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,978] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  6 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,983] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  6 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,984] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  4 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,985] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  7 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,993] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  3 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,994] INFO 127.0.0.1 - - [23/Feb/2016:07:13:51 +0000] "POST /topics/endsession HTTP/1.1" 200 120  4 (io.confluent.rest-utils.requests:77)
[2016-02-23 07:13:51,999] WARN Accept failed for channel java.nio.channels.SocketChannel[closed] (org.eclipse.jetty.io.SelectorManager:714)
java.io.IOException: Too many open files
    at sun.nio.ch.ServerSocketChannelImpl.accept0(Native Method)
    at sun.nio.ch.ServerSocketChannelImpl.accept(ServerSocketChannelImpl.java:422)
    at sun.nio.ch.ServerSocketChannelImpl.accept(ServerSocketChannelImpl.java:250)
    at org.eclipse.jetty.io.SelectorManager$ManagedSelector.processAccept(SelectorManager.java:706)
    at org.eclipse.jetty.io.SelectorManager$ManagedSelector.processKey(SelectorManager.java:648)
    at org.eclipse.jetty.io.SelectorManager$ManagedSelector.select(SelectorManager.java:611)
    at org.eclipse.jetty.io.SelectorManager$ManagedSelector.run(SelectorManager.java:549)
    at org.eclipse.jetty.util.thread.NonBlockingThread.run(NonBlockingThread.java:52)
    at org.eclipse.jetty.util.thread.QueuedThreadPool.runJob(QueuedThreadPool.java:635)
    at org.eclipse.jetty.util.thread.QueuedThreadPool$3.run(QueuedThreadPool.java:555)
    at java.lang.Thread.run(Thread.java:745)

所以我经历了很多与此相关的问题。设置我的 ec2 机器参数，这样我就不会得到 too many open file error。但它没有解决。我已将TIME_WAIT 减少到 30 秒。 ulimit -n 是 80000。

我收集了一些统计数据，看起来像在 `localhost:8082 上运行的 kafka rest 代理，导致连接过多。我该如何解决这个问题？有时当错误出现然后我停止我的围攻测试但是当 TIME_WAIT 连接减少时，我只用 1 个用户重新启动我的负载测试我仍然看到同样的问题。节点js的rest代理包装器中的一些问题？

【问题讨论】：

标签： node.js apache-kafka

【解决方案1】：

您需要增加该进程的 ulimit。要检查特定进程的 ulimit，请运行以下命令： sudo cat /proc/process_id>/limits

为了增加通过 supervisord 运行的进程的 ulimit，您可以在 supervisord.conf

中增加 minfds

【讨论】：