这篇文章将为大家详细讲解有关HBase如何增量备份的python脚本,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
专注于为中小企业提供成都网站建设、网站设计服务,电脑端+手机端+微信端的三站合一,更高效的管理,为中小企业东川免费做网站提供优质的服务。我们立足成都,凝聚了一批互联网行业人才,有力地推动了上千多家企业的稳健成长,帮助中小企业通过网站建设实现规模扩充和转变。HBase自带的export/import机制可以实现BackupRestore功能。而且可以实现增量备份。
HBase怎样增量备份的python脚本
在这个脚本中,每天做增量备份,每个月15日做全备份。
importtime importdatetime fromdatetimeimportdate importsys importos tablename=sys.argv[1] backupDst=sys.argv[2] today=date.today() iftoday.day==15://everymonth,wedoafullbackup backupSubFolder=backupDst+today.isoformat()+"-full" cmd="hbaseorg.apache.hadoop.hbase.mapreduce.Export%s%s"%(tablename,backupSubFolder) else: yesterday=datetime.date.today()-datetime.timedelta(days=1) todayTimeStamp=time.mktime(today.timetuple()) yesTimeStamp=time.mktime(yesterday.timetuple()) backupSubFolder=backupDst+today.isoformat() cmd="hbaseorg.apache.hadoop.hbase.mapreduce.Export%s%s%s"%(tablename,backupSubFolder,str(int(todayTimeStamp)*1000) printcmd os.system(cmd)
HBase怎样增量备份的python脚本
而Restore机制就更加简单
hbaseorg.apache.hadoop.hbase.mapreduce.Importtablenamerestorefolder
要注意的是,做Restore时候,原始的表必须是创建好的。所以如果表本身被损坏,需要重新创建一个新的空表,再做Restore。
还有,必须在Hadoop-env.sh中配置好hbase和Zookeeper的路径,加上这样的语句
exportHADOOP_CLASSPATH="/usr/lib/hadoop-hbase/hbaseXXX.jar:/usr/lib/hadoop-hbase/lib/zookeeperXXX.jar:/etc/hadoop-hbase/conf"
把这个加到crontab里面,就可以实现每天定时备份了。
关于“HBase如何增量备份的python脚本”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。