你的位置:首页 > 公司产品

云集数据同步软件

2019-12-18 15:11:53      点击:






1 概述

CDB-CDP技术:可对 Windows、Linux、Unix环境下的分布式服务器、数据库和应用系统提供实时数据备份和恢复管理,实现数据备份和恢复的集中化和自动化。结合CDP技术与多种备份策略,可以提供更高程度的保护和更细颗粒度恢复能力。直观灵活的图形用户界面帮助用户轻松管理整个备份系统,保护用户最重要的信息资产,确保数据的完整性。

1.1CDP技术模块

安装在用户生产服务器和备份服务器上,每台服务器配置注册文件,通过网页客户端管理任务。该软件中包含以下功能模块:

※Drive Module:数据感知模块,用于检测生产服务器数据变化

※Dmp Module:数据抓取模块,用于捕获增量数据

※Send Module:数据传输模块,用于协调数据传输

※Compression Module:数据压缩模块,用于生成数据的压缩

※Cache Module:断点缓存模块,用于避免网络延宕造成的数据不一致

※Time Module:时间定位模块,用于任意时间数据恢复

※Operate Module:操作定位模块,用于任意操作数据恢复

※Name Module:操作定位模块,用于任意固定文件名数据恢复

※Rollback Module:数据回滚模块,用于数据恢复

※Check Module:文件大小及时间戳校验模块,用于数据一致性和完整性的校验

※MD5 Module:MD5严格校验模块,用于数据一致性和完整性的校验


2 CDP 工作原理

2.1 数据感知与抓取 

通过运行在Source端的CDB驱动模块实时分析并获取Source端的操作及数据。时刻感知Source端内是否有新交易变化产生,并在驱动层抓取这些交易变化信息,通过网络实时传送至Target端,Target端接收后即时同步写入,保持与Source端的一致。

2.2 数据传输

IO操作增量传输:从驱动层捕获IO操作并格式化为二进制字节序列,然后进行压缩和加密,这样既保证低带宽状况下Source和Target之间数据同步效率,同时增强了数据传输过程中的安全性。

首阶段全量数据同步:在不中断业务运行的前提下,读取Source端所有监控目录已有存量数据,同步发送Target端实时写入。

增量数据同步:首阶段全量同步过程中新产生的数据增量被捕获后,经严格的逻辑校验和顺序标记实时写入 Source端缓存,当全量同步结束后即发送到Target端。

2.3 同步校验与MD5严格校验

同步校验:通过计算传送文件大小和时间戳是否一致,判断两侧文件是否一致。

MD5严格校验:通过MD5算法严格验证Source端和Target端数据一致性。

2.4 灾难判定与一键切换

通过Sockct对服务器 IP、网卡、系统服务、应用进程等提供自定义方式的监控,可手动执行灾备切换,将Source端IP信息附加到Target端,保证业务的连续性。

2.5 时间定位、操作定位、文件名定位

在备份数据恢复的过程中,可按照任意时间点、任意增删改操作点或文件名的方式,进行回滚式恢复,结合强大的逻辑校验机制,保证数据恢复后的可用性和准确性。


3 CDP 系统架构与部署

3.1 系统组成

系统由三部分组成:灾备服务器端程序、控制管理平台、生产服务器端程序,如图3.1所示。灾备服务器端程序,负责整个备份系统的数据存储等后台服务;控制管理平台是系统的统一配置、监控平台,用户可以通过该平台实现备份、还原、同步、接管等作业配置,并进行作业的监控管理等功能;生产服务器端程序安装在需要备份的源主机上实现备份功能。

 

图3.1 CDB系统架构图

3.2 灾备服务器端程序

灾备服务器端程序安装在备份服务器上,采用多线程、多任务的运行架构,包含并行控制、存储、备份、还原、合成备份、用户组管理、版本控制、增量传输、增量存储、通信控制、日志管理等子系统。灾备服务器端程序负责将客户端模块实时增量传输过来的数据块存储到对应的存储位置。灾备服务器端程序会根据用户制定的备份策略对存储的数据进行合成备份,生成对应时间点或操作点的备份数据版本的备份块,同时备份服务器会保存所有的备份数据块,以做到任意时间点或任意操作点恢复的功能。

3.3 生产服务器端程序

生产服务器端程序主要包括文件备份与恢复、MSSQL Server备份与恢复、Oracle备份与恢复、虚拟机备份与恢复、MySQL备份与恢复等模块。

3.4 控制管理平台

基于控制管理平台,主要是针对用户的实际需求,将备份产品的特点、功能都集中展示和实现,体现集中管理理念,即所有的操作都在网页客户端中完成,无需在源服务器上安装额外的软件,将对源服务器性能的影响降到最低,实现真正的绿色容灾的效果。

控制管理平台的功能:监控功能包括监控备份服务器的备份任务运行状态及其报表;管理功能包括服务器运行参数、日志、用户与组、组策略、备份视图等管理;操作功能包括实现基本的备份、还原功能、数据删除等功能。

3.5 系统部署模式

只需在备份服务器上安装备份服务器端程序,在需要备份的源主机上安装生产服务器端程序。而控制管理平台可以在任意一台安装了浏览器且能够访问远端和备端服务器的机器上启动,且无需额外安装软件。



4 CDP 主要技术说明

4.1 数据捕获与传输

备份速度和性能的提升关键来自于数据获取阶段,传统备份系统采用应用系统提供的数据接口方式来获取数据,例如各种数据库均提供了备份接口,SQLServer 数据库提供了 VDI,Oracle提供 RMAN,这样的方式速度慢,备份窗口大,造成应用系统性能直线下降。通过自主研发的核心技术:内存驱动层数据截取技术,通过对IO操作的监视,获取实时IO数据,利用并发原理,同时向容灾备用服务器及存储写入数据。

4.2 服务器监视

服务器监视是容灾系统切换所需的最基本的监视功能,主要用来监视各个节点服务器的工作状态等。

4.3 灾备切换

在源端出现问题时,把源端IP附加到目标端,使需要连接到源端的设备连接到目标端从而达到容灾备份的目的,目标端原来的IP仍然可用。


应用系统的恢复处理

当主机发生误操作导致数据出错或文件丢失,可通过备端的备份数据将主机恢复到误操作之前的状态。

※ 秒级切换原理

CDP自主研发的字节级及多磁盘同时写入技术,在截取内存数据后,进行字节级的传输,以保障传输效率及磁盘的写入性能。无需等待数据库回滚及挂载时间。数据库服务重新启动后及可完成海量数据的挂载。字节级及多磁盘同时写入技术保障数据的实时可用性,数秒内及可完成容灾切换。

4.4 系统资源监控

监控层次

系统指标

硬件设备

*服务器及存储设备使用状况

*资源使用率

*设备日志

操作系统

*操作系统热点进程

*操作系统用户

业务及应用

*应用进程状态

*应用数据库

*应用服务状态

网络及用户行为

*管理员及用户安全行为

*网络端口及节点检测

*网络流量检测

*网络负载检测


4.5 数据恢复原理

通过内存驱动层数据截取技术,实时、持续捕捉数据所发生的变化,软件能提供细颗粒的目标恢复,通过实时记录或捕捉数据的变更和改变,使数据可恢复到之前的任意一个状态或者任意一点的操作,没有固定的恢复点,恢复时间点可精确到任意 1  秒或任意操作点。

4.6 数据库备份

通过对磁盘下文件系统的拷贝,完成对数据库数据的提取,进行本地磁盘缓存,再将提取的数据传输至备份服务器或备份存储。增量数据同样以非结构化形式进行存储,并与之前的备份集存储在同一目录下。

4.7 文件备份

通过对文件的拷贝,完成对文件数据的直接传输,备份服务器或存储上的备份集保留了原数据格式。最终完成写入后,开始获取增量数据,增量数据同样保留原数据格式,并与之前的备份集存储在同一目录下。

4.8 备份策略

提供了多种备份策略,包含实时备份策略、定时备份策略(定时备份正在开发中)。可提供无间隙式的实时增量备份,以及根据不同需求制定的定时完整备份、增量备份等。

4.9 异地远程备份

通过压缩处理技术,降低了远程异地备份对带宽的要求,减少网络压力及传输时间,极大的提高了数据传输效率。可靠的数据实时校验和传输流量控制,避免了对生产服务器的性能影响。

4.10 高速的数据恢复

CDP 拥有高效的检索功能,能在众多的备份数据中快速锁定恢复时间点的数据,优化功能保证了恢复速度的效率以及系统的高可靠性。

4.11 基于网页客户端的统一管理和配置

支持统一网页客户端平台,即所有的作业操作都可以在网页客户端上完成。支持基于网页客户端进行备份策略设置、作业监控、存储配置、空间管理等,无需进行现场维护。

通过设置备份计划与存储管理策略,让系统自动运行,极大地减少系统维护和管理工作量。支持基于网页客户端的查询备份对象、图表的存储空间显示、备份策略管理、计划管理。支持基于网页客户端的备份作业监控,可显示从触发、排队、启动、传输、存储整个过程。