首页 > 后端开发 > Golang > 正文

MySQL与GORM并发写入导致错误

WBOY
发布: 2024-02-09 10:30:18
转载
486 人浏览过

MySQL与GORM并发写入导致错误

MySQL与GORM的并发写入问题一直是开发者们头疼的难题。在高并发的情况下,多个线程同时写入数据库可能导致数据不一致或者错误的结果。php小编百草为你解析该问题的原因和解决方案,帮助你避免并发写入带来的困扰。通过合理的设计和优化,可以有效地解决MySQL与GORM的并发写入问题,保证数据的一致性和准确性。

问题内容

我在 golang 中实现了一个复杂的 csv 导入脚本。 我使用 workerpool 实现。在该工作池中,工作人员运行 1000 个小型 csv 文件,对产品进行分类、标记和品牌化。 它们都写入同一个数据库表。到目前为止一切顺利。

我面临的问题是,如果我选择了 2 个以上的工作人员,进程会随机崩溃并显示以下消息

工作流程是

foreach (csv) {
 workerPool.submit(csv)
}

func worker(csv) {
 foreach (line) {
   import(line)
 }
}

import(line) {
 product = get(line)
 product.category = determine_category(product)
 product.brand = determine_brand(product)
 save(brand)
 product.tags = determine_tags(product)
 //and after all
 save(product)
}
登录后复制

我尝试将 save() 调用包装在事务中,但没有帮助。

现在我有以下问题:

  1. mysql 是否适合同时保存到 1 个表?
  2. 如果需要事务来完成此任务,应该在哪里设置?
  3. go sql 驱动程序(错误总是发生在 packet.go:1102 中)是否适合执行此操作?
  4. 有人可以帮助我吗(也许可以雇佣几个小时)?

我完全被困住了。如果有帮助的话我也可以分享源代码。但我首先想知道你猜这是我的代码还是一般问题。

解决方法

在每个 goroutine(或线程,对于使用线程的语言)中打开一个新的数据库连接。

MySQL 的协议是有状态的,这意味着如果多个 goroutine 尝试使用同一个连接,请求和响应会变得非常混乱。

尝试在 goroutine 之间共享任何其他类型的有状态协议连接时,您也会遇到同样的问题。

例如ftp也是一个有状态的协议,这可能更容易理解。客户端 goroutine 可能会发送类似“获取文件 x”的消息,响应应该是一系列包含该文件内容的消息。如果另一个 goroutine 在请求/响应正在进行时尝试使用相同的连接,则两个客户端都会感到困惑。第二个 goroutine 将读取属于它未请求的文件的数据包。第一个请求该文件的 goroutine 会发现它所期望的一些数据包已被读取。

同样,MySQL 的协议也不支持多个客户端 goroutine 共享单个连接。

以上是MySQL与GORM并发写入导致错误的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:stackoverflow.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板