负载均衡器上的负载

Question

在我们的 TCP 服务器部署中，我们有所有客户端最初连接到的负载平衡器。然后负载均衡器为他们每个人提供他们应该连接的实际服务器 IP 地址。客户端然后断开与负载平衡器的连接并继续与他们拥有的服务器 IP 地址的 TCP 连接。因此，负载正在服务器之间分配。

这种安排非常适用于数千个连接。但是我们担心这是否适用于数百万个连接？负载均衡器本身将无法及时为所有这些客户端提供服务器 IP 地址，这是我们的噩梦。这里有什么替代方案？

Answer 1

实际上取决于您使用的负载均衡器是否可以满足需求。一些负载均衡器可以处理数百万个 L4 连接。此外，我不认为直接连接到服务器是一个好主意，因为如果服务器不可用，连接会发生什么。我会让所有流量都流向负载均衡器。您还可以考虑直接服务器返回，即来自客户端的请求通过负载均衡器，响应直接发送到客户端（绕过负载均衡器）。