mysql高效导数据方法

原创
2016-06-07 15:08:45 607浏览

欢迎进入Linux社区论坛,与200万技术人员互动交流 >>进入 模拟现网测试,需要搭建测试环境,导入上亿级的数据到数据库。对于到的问题做些简单记录。 数据:一个db,2000个表格,2000张表格数据,每条记录30个column,平均每张表格4.3w条记录,总共86388670条记

欢迎进入Linux社区论坛,与200万技术人员互动交流 >>进入

  模拟现网测试,需要搭建测试环境,导入上亿级的数据到数据库。对于到的问题做些简单记录。

  数据:一个db,2000个表格,2000张表格数据,每条记录30个column,平均每张表格4.3w条记录,总共86388670条记录。

  机器:linux 64bit 8G内存 4核IntelX3320@2.5GHz

  基本思路:

  mysql -utest -pxxxx -s -e "source xxxx.sql"

  将load语句放在xxxx.sql中

  load语法:

  load data [low_priority] [local] infile 'file_name.txt' [replace | ignore]

  如果串行导入数据,会很慢,考虑并行,但可能有冲突,解决办法:

  load之前清空表

  truncate table xxxx 或 delete from table xxxx;

  或使用replace或ignore关键字。

声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn核实处理。