如何优化简单 Web 和数据库应用程序的响应时间

Question

我是 golang 和数据库优化的新手。

我有一个简单的应用程序编写在 go 和 mysql 数据库中，通过网络初始化发送查询。

接收请求大约需要 5 秒或更长时间？是否有可能以某种方式对其进行优化？

另外如果刷新几次，那么响应可能已经是50s甚至更多了， “无效的内存地址或 nil 指针取消引用”或“错误 1040：可能出现太多连接”的异常。

如何避免这种情况并在有效的时间范围内处理所有请求？

这是表结构

 CREATE TABLE sportsmen (
    sp_no int(11) NOT NULL, 
    birth_date date NOT NULL, 
    first_name varchar(14) NOT NULL, 
    last_name varchar(16) NOT NULL, 
    gender enum('M','F') NOT NULL, 
    start_date date NOT NULL, 
    PRIMARY KEY (sp_no)
) ENGINE=InnoDB DEFAULT CHARSET=latin1

CREATE TABLE points (
sp_no INT NOT NULL,
point INT NOT NULL,
date DATE NOT NULL
);

运动员的记录数量约为 300000 条，他们的积分约为 1000000 条。

这是每个请求都会调用的函数

var db *sql.DB

func init() {
    db, _ = sql.Open("mysql", "<connection>?charset=utf8")
    //checkErr(errcon)
    err := db.Ping()
    checkErr(err)
    yt := reflect.TypeOf(db).Kind()
    fmt.Printf("%T: %s\n", yt, yt)
}

func sportsmanPoints(w http.ResponseWriter, r *http.Request) {

    start := time.Now()

    sportsmen, err := db.Query("SELECT sp_no, first_name FROM sportsmen LIMIT ?,20", rand.Intn(100000))
    checkErr(err)

    for sportsmen.Next() {
        var spNo string
        var firstName string
        err = sportsmen.Scan(&spNo, &firstName)
        checkErr(err)
        spPoints, err := db.Query("SELECT max(point) FROM points WHERE sp_no =" + spNo)
        for spPoints.Next() {
            var spPoint int
            err = spPoints.Scan(&spPoint)
            checkErr(err)
            points.Data = ​append​(points.Data, Point{Name: firstName, Point: spPoint})
        }
    }

    data, err := json.Marshal(points.Data)
    if​ err != ​nil​ {
           log.Fatal(err)
     }

    fmt.Fprintln(w, ​string​(data))
    elapsed := time.Since(start)
    fmt.Println(​"Date:"​, time.Now(), ​"Response time:"​, elapsed)
    points.Data = ​nil
    data = ​nil
}

func​ ​checkErr​(err error) {
    if​ err != ​nil​ {
        panic​(err)
    }
}

func​ ​main​() {
    http.HandleFunc(​"/"​, sportsmanPoints)
    err := http.ListenAndServe(​":9090"​, ​nil​)
    if​ err != ​nil​ {
        log.Fatal(​"ListenAndServe: "​, err)
    }
}

谢谢。

Answer 1

每次向您的服务器发出请求时，您都会在处理程序中连接到数据库。仅此操作可能需要几秒钟。一旦处理程序返回，您只需丢弃该连接（您甚至不会关闭该连接，因此在关闭之前可能会空闲一段时间，因为连接很可能在服务器上受到限制，从而占用数据库服务器资源）。不要那样做。

在应用启动时连接到您的数据库一次，然后在您的处理程序中使用此连接。数据库将保持空闲连接打开，以便在您在另一个请求中需要它时立即重用。

将您的 db 变量移到外部，例如到一个包级变量，连接到你的数据库并初始化这个db变量一次，例如在您的 main() 或包中的 init() 函数中，然后在您的处理程序中使用它。

sql.Open() 文件表明：

返回的数据库对于多个 goroutine 并发使用是安全的，并维护自己的空闲连接池。因此，Open 函数应该只被调用一次。很少需要关闭数据库。

查看类似问题：mgo - query performance seems consistently slow (500-650ms)

Answer 2

SELECT sp_no, first_name FROM sportsmen LIMIT ?,20", rand.Intn(100000)

糟糕的表现。结果很差。

• 它只会从表格的前 1/3 中选择（cf 100000 vs 300000）。

• 它偶尔会选择相同的 20 或重叠的 20。

• 它必须跳过多达 100000 行才能找到第 20 行。（这是性能问题。）

我有多种方法可以改善所有这三个问题：http://mysql.rjweb.org/doc.php/random

并且通过加快查询速度，“连接过多”的问题可能会消失。