在 golang 中通过 tcp 套接字发送数百万条短消息

Question

我正在用 golang 编写两个服务，它们需要每秒发送大约 200 万条消息。每条消息大约 50 个字节，因此吞吐量应该只有大约 100MB/s。我想为此使用 tcp。但是，结果非常缓慢。我配置了 SetNoDelay(false) 以确保在发送之前缓冲数据，但这没有任何区别。

我每秒只能发送大约 50k 条消息，消息大小并不重要，所以我假设代码在某处阻塞。这是我的测试代码：

package main

import "net"
import "fmt"
import "bufio"
import (
    //"strings"
    "time"
)

func startserver() {
    fmt.Println("Launching server...")
    ln, _ := net.Listen("tcp", ":8081")
    conn, _ := ln.Accept()

    for {
        bufio.NewReader(conn).ReadString('\n')
        //fmt.Println(message)
        //newmessage := strings.ToUpper(message)
        //conn.Write([]byte(newmessage + "\n"))
    }
}

func startclient() {
    time.Sleep(time.Second) // so that server has time to start
    servAddr := "127.0.0.1:8081"
    tcpAddr, _ := net.ResolveTCPAddr("tcp", servAddr)
    conn, _ := net.DialTCP("tcp", nil, tcpAddr)
    conn.SetNoDelay(false)
    conn.SetWriteBuffer(10000)
    msg := "abc\n"
    start := time.Now()
    for i := 0; i < 1000000; i++ {
        conn.Write([]byte(msg))
        //bufio.NewReader(conn).ReadString('\n')
        //fmt.Print("Message from server: ", response)
    }
    fmt.Println("took:", time.Since(start))
}

func main() {
    go startserver()
    startclient()
}

有什么建议吗？

Answer 1

系统调用很昂贵，并且通过环回写入数据非常快，因此这实际上只是计时您可以对 write 进行 100 万次调用的速度。

进行大量小型读写是使用缓冲 io 的主要用例。将普通的 net.TCPConn 包裹在 bufio.Writer 中将提供预期的性能提升。