golang - go-sql-driver/mysql for rows.Next()的性能问题
天蓬老师
天蓬老师 2017-04-17 15:19:56
0
2
869

1.当查询出来的记录过万时,遍历Rows的时间过长,达到1分钟甚至更多

程序代码:

rows, err := p.conn.Query(sqlStr, params...)
if err != nil {
    log.Println("mysql query error", err.Error())
    return nil, err
}
log.Println("conn结束:", goutil.GetCurrentTime())
//延时关闭Rows
defer rows.Close()
//获取记录列
if columns, err := rows.Columns(); err != nil {
    return nil, err
} else {
    //拼接记录Map
    values := make([]sql.RawBytes, len(columns))
    scans := make([]interface{}, len(columns))

    for i := range values {
        scans[i] = &values[i]
    }
    //此处遍历在3W记录的时候,长达1分钟甚至更多
    for rows.Next() {
        _ = rows.Scan(scans...)
        each := map[string]interface{}{}
        for i, col := range values {
            each[columns[i]] = string(col)
        }
        rowMaps = append(rowMaps, each)
    }
    return rowMaps, nil
}
天蓬老师
天蓬老师

欢迎选择我的课程,让我们一起见证您的进步~~

全部回覆(2)
小葫芦

可以用建立多個goroutine 分段查詢資料。使用channl在執行緒中拿去查詢結構進行迭代。

伊谢尔伦

這不是golang效能的問題,其他程式語言也會類似。一次去拿三萬筆記錄本來就是個不合理的需求,應該用分頁來解決,一次只取幾十到幾百筆。

熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板