当前位置:首页 > 日记 > 正文

MySQL下共享海量数据迁移步骤

MySQL下共享海量数据迁移步骤
该公司的数据中心计划做大量的数据迁移,而时间场的增加(原来是型数据库,现在添加一个日期型),单表的数据达到6亿以上的数据记录,是基于时间(月)做隔断由于工作繁忙,所以它不是一个直起来,细节的地方也不记得,这是当时的情况简要总结,备忘录

陷入困境

起初,接收任务时没有明确的起始点。它是直接从DB限制10000中直接选择的,动态地改变页面的数量,通过控制台非常耗时而且速度慢。

复制代码代码如下所示:
选择ir_sid,ir_hkey,ir_groupname,ir_sitename,ir_channel,ir_mid,ir_urlname,ir_status_content,ir_created_at,date_format(ir_created_at,''%1 Y. % M. %d),ir_lasttime,ir_via,ir_thumbnail_pic,ir_rttcount,ir_commtcount,ir_uid,ir_screen_name,ir_retweeted_uid,ir_retweeted_screen_name,ir_retweeted_mid,ir_retweeted_url,ir_status_body从tb_sina_status哪里ir_sid > 40000和ir_sid < 50001到outfile ' /家/ MySQL /数据/ data_outfile .txtLOAD DATA INFILE ' / / /家MySQL数据/ data_outfile .txt;为表new_tb_sina_status;
你能阅读基于分区的数据吗

由于数据库是按分区划分的,您是否可以按照分区读取数据,如果可以用什么语法读取它只要我们每月读取数据,MySQL就自动在分区上读取数据。我们可以看到哪个分区是基于命令:解释分区。
阅读大数据将是非常耗时的。对于什么状态的数据,我们可能非常想知道。您可以使用命令:显示状态来查看它。我认为主要是发送数据,写信给网络等等。
在InnoDB引擎的性能比MyISAM引擎是什么
在实验数据的基础上的出口和进口一个月(文字、金额8g 2500w记录),在小于4h的MyISAM引擎(PC测试环境),但在InnoDB引擎,它需要32个小时,提高指标等,也需要28h,性能的区别8倍。

在互联网上,一个高的人一直对InnoDB和MyISAM之间的差异发现,说innodb_buffer_pool_size和innodb_flush_log_at_trx_commit需要修改

可以保证没有太大的差别,试试没有明显的改进,在这台机器就可以了,为什么我花了很长时间。

innodb_flush_log_at_trx_commit

比MyISAM和大头慢是InnoDB的1000倍你似乎忘了修改这个参数的默认值是1,这意味着每一个更新事务(或每一次交易表外刷新到磁盘上,)这是相当耗费资源的,特别是当没有电池备份缓存。许多应用程序,尤其是那些由MyISAM,确定其价值2,就是他们没有刷新日志到磁盘,但刷新到操作系统的缓存,日志仍然会刷新每秒磁盘,所以它通常不会失去每秒1-2更新消费。如果你将它设置为0,它的速度更快,但这是相对不安全的几笔交易都将丢失当MySQL服务器崩溃。设置为2,将失去的那部分e被刷新到操作系统缓存的事务。

innodb_buffer_pool_size

InnoDB是默认设置下的innodb_buffer_pool_size蜗牛。因为InnoDB的缓存数据和索引,它不需要留太多的内存用于操作系统,所以如果你只需要设置,你可以设置它的70-80%的可用内存。

最后,在陆地和水上旅行的艰辛发现了另外两个参数。

innodb_log_file_size

这是写一个高负荷的重要,尤其是一个大的数据集。价值越高,更高的性能,但它注意到复苏的时间可能会增加重要。我经常把它64-512mb,不同服务器的大小。

innodb_log_buffer_size
默认设置是在中等强度负荷的情况下写短的交易。如果更新操作或负载峰值较大,则应考虑增加它的价值。如果它的值设置太高了,可能会浪费内存将被刷新一次,因此有不需要超过一秒设置内存空间。通常8-16mb是不够的。系统更小,更小的它的价值。
最后,MyISAM和InnoDB的指导数据的性能基本上是相同的。2500的数据需要3.5h,和单库读取数据需要2h。这只是一个示意值仅供参考。(PC的测试),官方服务的测试结果更明显。

性能调优语句引用

复制代码代码如下所示:
设置剖析= 1;
显示配置文件
显示配置文件CPU,用于查询1的块IO;
显示状态
显示列表
解释
平行阅读速度快吗

如果基于数据分区,仍不能达到目标,我终于被壳的速度写的,基于数据的多进程并行分区,即MySQL中P DB推出exp201201.sql MySQL中,P < exp201202.sql分贝,每个SQL根据阅读与写作的天(事件环境是一个月的分区)

复制代码代码如下所示:
选择ir_sid,ir_hkey,ir_groupname,ir_sitename,ir_channel,ir_mid,ir_urlname,ir_status_content,ir_created_at,date_format(ir_created_at,''%1 Y. % M. %d),ir_lasttime,ir_via,ir_thumbnail_pic,ir_rttcount,ir_commtcount,ir_uid,ir_screen_name,ir_retweeted_uid,ir_retweeted_screen_name,ir_retweeted_mid,ir_retweeted_url,ir_status_body
为导出的文件 / / /家MySQL数据 / / 111101 sinawb20120724 .txt
字段被','可选地包含' ' '转义'
以结尾的行'
从tb_sina_status
在ir_created_at > = '2011-11-01 00:00:00'and ir_created_at < '2011-11-01 23:59:59

数据加载的 / / /家MySQL数据 / / 111101 sinawb20120724 .txt
忽略到表` new_tb_sina_status `
utf8字符集
字段被','可选地包含' ' '转义'
以结尾的行'

相关文章

12XP系统蓝屏错误代码的意义及解决

12XP系统蓝屏错误代码的意义及解决

系统,错误代码,蓝屏,解决方案,意义,点评:Windwos XP系统错误信息提示的代码,相信很多普通用户都不明所以,错误代码有很多种,每一种意义和解决方案都不一样,10几个错误代码的小清单及解的意义,供参考 1。系统提示错误代码:0x0000001e 描述:kmode-ex…

如何将Word文档中的表复制并粘贴到

如何将Word文档中的表复制并粘贴到

文档,表复制,如何将,中表,电脑软件,问:如何将Word文档中的表复制并粘贴到Excel中 答:只是想复制表格一个单元格只要点击一下表,看到表的左上角,就出现了一个框架,里面有十字箭头,鼠标右键点击>复制,完成操作。…

Win8.1Update成功打开Aero效果的途

Win8.1Update成功打开Aero效果的途

途径,效果,电脑软件,Update,Aero,点评:通过注册表DWM植入的aero效果的成功开业,下面的方法,相信一些熟悉DWM此注册表项网友大呼很熟悉。 Windows蓝9600.16596在不久的将来被泄露,并植入DWM键值爱好者通过注册表,成功打开Aero效果。 不说了,直接…

在百度地图中使用测速的具体步骤

在百度地图中使用测速的具体步骤

在百度地图中使用测速的具体步骤,百度地图,测速,  百度地图真是给人们提供了太多的方便,那么今天小编分享在百度地图中使用测速的具体步骤,我们一起去了解了解吧。  在百度地图中使用测速的具体步骤  1、打开手机百度地图客户端,进入到手…

如何修复系统分区的引导扇区

如何修复系统分区的引导扇区

扇区,系统分区,电脑软件,注释:如果引导扇区损坏,它也会导致系统正常启动失败。它可以进入故障恢复控制台,用FIXMBR的帮助(恢复主引导记录)或FIXBOOT(修复引导扇区)命令。 引导扇区被破坏,这也导致系统无法正常启动。在Windows 2000 / XP,它也需要进…

玩Win8.1开始菜单和返回的经典老菜

玩Win8.1开始菜单和返回的经典老菜

菜单,开始菜单,经典,电脑软件,点评:想尽一切办法恢复旧菜单,其实不必那么麻烦。只有几步可以找回经典的开始菜单。具体操作步骤如下。有兴趣的朋友可以参考一下。 许多人不明白微软的新开始屏幕冷,试图寻找一些第三方软件;老菜单回来。事实上,在…

快速合并多个PowerPoint演示方法

快速合并多个PowerPoint演示方法

方法,合并,多个,演示,快速,有时我们需要将多个PowerPoint演示文稿合并为一个演示文稿,同时保留源幻灯片的模板,可以通过以下操作来实现。 一个开放的、多元的PowerPoint演示文件,单击powerpointldquo菜单;与演示命令,弹出比较;选择与当前演示文稿…

PS滤镜教程:制作漂亮的小立方体效果

PS滤镜教程:制作漂亮的小立方体效果

滤镜,教程,立方体,效果,漂亮,这个PS过滤教程:制作漂亮的小正方体效果,是学习小汇编给你整理的,希望对你有帮助! 本文介绍了各种PS滤光片制作美丽小正方体的效果,生产中采用的滤镜有:添加颜色、运动模糊、波纹、波浪、突出,最后添加叠加的渐变色填…

regsrv是regsrv.exe-使用

regsrv是regsrv.exe-使用

电脑软件,regsrv,exe,点评:regsrv.exe是optixpro.11病毒相关程序。该病毒允许攻击者控制你的计算机 进程文件:regsrv或regsrv.exe 进程名称:optixpro.11病毒 过程类别:安全风险的过程 英文描述: regsrv.exe添加到系统,作为一个结果的optixpro.1…

的过程,是一个kentbcli.exe查询kent

的过程,是一个kentbcli.exe查询kent

查询,是一个,过程,电脑软件,kentbcli,点评:kentbcli.exe是一个代理服务器软件相关的过程 进程文件:kentbcli或kentbcli.exe 过程名称:AVM肯客户端 过程类别:安全风险的过程 英文描述: kentbcli.exe是一个代理服务器的应用。这个程序是非必需的…

音乐管家app设置的具体步骤

音乐管家app设置的具体步骤

音乐管家app设置的具体步骤,音乐管家app,设置,  音乐管家app怎么设置呢?下文介绍音乐管家app设置的具体步骤,有兴趣的可以来了解了解哦。  音乐管家app设置的具体步骤  1、用户在音乐管家里,可以通过左上角的齿**来打开设置列表,从中可以…

语句中MySQL用例的几个使用实例

语句中MySQL用例的几个使用实例

用例,语句,几个,实例,电脑软件,使用字符串替换处理 复制代码代码如下:从销售中选择; 9行(0.01秒) 选择名称作为名称, 案例类别 当假日,然后季节性 当职业然后bi_annual 当文学时,随机结尾为 从销售; 9行(0秒) 创建表销售( Num MEDIUMINT不空auto_…