负载均衡器是否需要负载均衡器？

Question

考虑一种情况，我们有一个部署在多个服务器中的 Web 应用程序，并且客户端请求登陆到负载均衡器，负载均衡器又将请求路由到实际服务器。

现在，如果我们同时有太多请求，负载均衡器本身会失败吗？假设我们每秒收到 100 万个请求，那会不会超出单个负载均衡器的处理能力？

我们如何设计（至少在概念上）处理此类情况的系统？

Answer 1

将负载平衡器放在负载平衡器的前面并不能解决问题，因为如果一个负载平衡器由于高流量而发生故障转移，那么前面的那个也会发生故障！

您可以使用 DNS 实现您所寻找的目标。您可以将多个 IP 地址注册到一个域名，从而拥有多个负载均衡器。

假设您正在向 www.example.com 发出请求。您的浏览器将在 DNS 中查找记录并接收相应 IP 地址的列表。然后请求将转到列表中的第一个地址。如果它不可用，它将转到列表中的下一个。 DNS 服务器将随机排列列表的顺序以分散负载，甚至定期进行健康检查以删除无响应的 IP。这意味着您的请求将在您的负载均衡器之间分配，而不是只点击一个。