MySQL数据库实时同步数据到Hadoop分布式文件系统的工具Applier

通过Map/Reduce进行批处理递送到Apache Hadoop仍然是中枢环节。,但随着要从“超思维速度“分析方面获取竞争优势的压力递增，因此Hadoop（ 分布式文件系统 ）自身经历重大的发展。科技的发展允许实时查询，如Apache Drill, Cloudera Impala和Stinger Initiati

通过map/reduce进行批处理递送到apache hadoop仍然是中枢环节。,但随着要从“超思维速度“分析方面获取竞争优势的压力递增，因此hadoop（分布式文件系统）自身经历重大的发展。科技的发展允许实时查询，如apache drill, cloudera impala和stinger initiative正脱颖而出，新一代的资源管理apache yarn 支持这些。

为了支持这种日渐强调实时性操作,我们正发布一个新MySQL Applier for Hadoop（用于Hadoop的MySQL Applier）组件。它能够把MySQL中变化的事务复制到Hadoop / Hive / HDFS。Applier 组件补充现有基于批处理Apache Sqoop的连接性。

这个组件（MySQL Applier for Hadoop）的复制是通过连接MySQL主服务，一旦二进制日志被提交，就读取二进制日志事务，并且把它们写到HDFS.

这个组件使用libhdfs提供的API，一个C库操作HDFS中的文件。这库由Hadoop版本预编译生成的。

它连接MySQL主服务读二进制日志，然后：

• 提取发生在主服务上的行插入事件

• 解码事件,提取插入到行的每个字段的数据,并使用满意的处理程序得到被要求的格式数据。

  

  华友协同办公自动化OA系统

  华友协同办公管理系统(华友OA)，基于微软最新的.net 2.0平台和SQL Server数据库，集成强大的Ajax技术，采用多层分布式架构，实现统一办公平台，功能强大、价格便宜，是适用于企事业单位的通用型网络协同办公系统。 系统秉承协同办公的思想，集成即时通讯、日记管理、通知管理、邮件管理、新闻、考勤管理、短信管理、个人文件柜、日程安排、工作计划、工作日清、通讯录、公文流转、论坛、在线调查、

  0

  查看详情

• 把它追加到HDFS 中一个文本文件。

数据库被映射为单独的目录,它们的表映射为子目录，保存在数据仓库目录。每个表的数据被写到Hive/ HDFS中文本文件(称为datafile1.txt)。数据可以用逗号格式分隔;或其他格式,那可用命令行参数来配置的。

从这个blog可以了解更多有关该组设计信息。

在这个blog已经详细讨论安装，配置，实施信息。与Hive集成也有文档。

你也可以从这个视频教程明白它的作用

原文地址：MySQL数据库实时同步数据到Hadoop分布式文件系统的工具Applier, 感谢原作者分享。