DataX 是异构数据广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。
DataX本身作为数据同步框架,将不同数据源的同步抽象为从源头数据源读取数据的Reader插件,以及向目标端写入数据的Writer插件,理论上DataX框架可以支持任意数据源类型的数据同步工作。同时DataX插件体系作为一套生态系统, 每接入一套新数据源该新加入的数据源即可实现和现有的数据源互通。
Download Datax-bin下载地址
请点击:Quick Start
DataX目前已经有了比较全面的插件体系,主流的RDBMS数据库、NOSQL、大数据计算系统都已经接入,目前支持数据如下图,配置详情请点击图下列出DataX数据源参考指南
类型 | 数据源 | Reader(读) | Writer(写) |
---|---|---|---|
RDBMS 关系型数据库 | Mysql | √ | √ |
Oracle | √ | √ | |
SqlServer | √ | √ | |
Postgresql | √ | √ | |
达梦 | √ | √ | |
阿里云数仓数据存储 | ODPS | √ | √ |
ADS | √ | ||
OSS | √ | √ | |
OCS | √ | √ | |
NoSQL数据存储 | OTS | √ | √ |
Hbase0.94 | √ | √ | |
Hbase1.1 | √ | √ | |
MongoDB | √ | √ | |
无结构化数据存储 | TxtFile | √ | √ |
FTP | √ | √ | |
HDFS | √ | √ |
- adswriter
- drdsreader
- drdswriter
- ftpreader
- ftpwriter
- hbase
- hbase094xreader
- hbase11xreader
- hbase11xwriter
- hbasereader
- hbasewriter
- hdfsreader
- hdfswriter
- mongodbreader
- mongodbwriter
- mysqlreader
- mysqlwriter
- ocswriter
- odpsreader
- odpswriter
- oraclereader
- oraclewriter
- ossreader
- osswriter
- otsreader
- otswriter
- postgresqlreader
- postgresqlwriter
- rdbmsreader
- rdbmswriter
- sqlserverreader
- sqlserverwriter
- streamreader
- streamwriter
- txtfilereader
- txtfilewriter
系统问题请及时提出在issue。请前往:DataxIssue
钉钉&微信扫描以下二维码加入交流群: