为更好地服务于各地政府数字化改革建设,提高数据流通效率,加强数据的开发利用,澳门新葡萄新京旗下子公司澳门新葡萄新京软件自主研发并重磅推出分布式数据集成平台——航道,实现批流一体的高性能异构数据同步,支持多源异构数据汇聚、数据集中、数据回流等场景,对标DSG、OGG、DMHS等产品,具备独立部署适应场景广、可视化配置操作便捷、实时监控动态预警等优势。
在应用实践方面,航道攻克了数据价值挖掘的重难点,实时同步性能达到秒级,已在人社部、中残联、佛山、温州、绍兴等重点项目中取得显著成果。
一、产品介绍
航道数据集成平台是集分布式部署架构、非侵入式实时采集、拖拽式流程配置、插件化扩展能力于一体的数据集成平台,支持大规模数据的快速归集,适配Oracle、Mysql、达梦、PG等各类常见的数据库类型,助力客户构建稳定、安全、便捷的数据应用场景。
二、核心功能
01 实时数据采集
航道数据集成平台提供实时数据采集能力,实现实时数据增量同步、数据一致性比对和数据补全,同时提供数据采集全流程监控,便于系统运维。
02 批量数据采集
批量数据采集包括全量采集和定时增量采集两种方式,具有大批量、高效能、高便捷、多兼容等特性。
03 接口及文件采集
航道数据集成平台还支持接口方式和文件导入方式进行数据采集。接口主要以定制化接口开发为主,适用于小批量数据采集场景;文件方式支持txt、cvs的文件格式。
三、产品优势
01 分布式部署
支持分布式部署以及多线程数据切片传输,极大提升处理性能;采用均分式+争抢式的负载均衡模式,最大程度实现性能均衡。
02 非侵入式数据同步
基于日志级的非侵入式实时增量数据同步,实现秒级数据同步,并保证数据一致性,源端无需安装客户端,无需第三方配合。
03 拖拽式配置环境
提供可视化的任务流程配置环境,可以通过拖拽方式便捷的构建任务流程;支持通过任务模板的方式快速构建同类任务。
04 插件化开发模式
流程节点采用插件化开发模式,可自行扩展个性化任务节点,满足各种复杂的离线任务处理场景。
05 全方位安全防护
账号密码、数据库账号密码等敏感信息传输采用国密加密传输;运维工具危险SQL语句执行,采用二次密码、验证码验证;配置信息中的敏感信息采用密文配置;所有用户操作信息均记录日志,可用于追溯。
四、典型应用成果
01 人社部数据管理平台
该项目通过航道实现了联网监测、就业监测、全民参保、持卡库等系统数据的全面归集,从Oracle同步到Gbase数据库,数据总量大于15TB;按月定期采集社保联网监测和就业监测增量数据,平均月增量38.63亿条。
02 佛山人社大数据平台
该项目汇聚了人社全领域以及残联、公安、民政、市监、税务等7个外部数据资源,数据总量12T+,日增量17GB;其中社保、惠民、机关保等业务数据实现了增量数据秒级实时同步,亿级数据可在10分钟内完成同步。
03 绍兴人社数据回流
绍兴数据回流主要实现绍兴市人社数据实时回流到诸暨和上虞,平台自2021年8月上线持续稳定运行。
全量同步性能:以诸暨为例,1000万以上大表全量初始化平均速度2.68万条/秒,平均6.2分钟完成全量初始化;其中,最大表AC82,1555万行39字段,速度可达7.38万条/秒,3.5分钟完成全量初始化。
增量同步性能:增量同步速度可达1.3万条/秒(以10万数据量测试),业务高峰期最大日增量1631万条(截至2022-01-01),平均日增量154万条,非业务高峰期可达到秒级数据延时。
04 其他项目应用