Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 杭州尚尚签网络科技有限公司赖德朴获国家专利权

杭州尚尚签网络科技有限公司赖德朴获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉杭州尚尚签网络科技有限公司申请的专利一种具备全链路反压特性的数据同步方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116383308B

龙图腾网通过国家知识产权局官网在2026-02-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310379681.6,技术领域涉及:G06F16/27;该发明授权一种具备全链路反压特性的数据同步方法及系统是由赖德朴;王海峰设计研发完成,并于2023-04-11向国家知识产权局提交的专利申请。

一种具备全链路反压特性的数据同步方法及系统在说明书摘要公布了:本发明公开了一种具备全链路反压特性的数据同步方法及系统,包括:配置同步任务的元数据;启动binlog日志的增量同步,选择性进行全量同步;将产生的增删改查事件路由到分布式的并行Stream管道;并以异步请求响应模式按各表配置的维度字段路由分发到Actor模型分片集群中的Actor实体;进行事件持久化和状态更新,以及基于当前状态的复杂转换逻辑,并将结果返回Stream管道;Stream管道对Response事件进行消息批化和排序去重处理;将结果写入Sink数据源,并进行异步ACK机制,保证可靠同步。本发明通过高度可配置的同步任务,可快速实现异构数据源间的复杂模型同步转换,具有链路短、组件少,同步高效的特点。

本发明授权一种具备全链路反压特性的数据同步方法及系统在权利要求书中公布了:1.一种具备全链路反压特性的数据同步方法,其特征在于,包括以下步骤: S1.配置同步任务的元数据,元数据包括:Source数据源和Sink数据源的连接配置、日志解析的库表、Actor模型分片集群的计算转换逻辑; S2.利用步骤S1的元数据启动同步任务,进行基于数据库binlog日志的增量同步,同步后产生增删改事件,进行基于SQL模式全量同步,同步后产生查事件,由增删改事件和查事件组成增删改查事件; 步骤S2中,进行基于SQL模式全量同步,同步后产生查事件,具体包括: S2.1.API提交的全量同步任务包括多表关联拉取任务和多表独立拉取任务; S2.2.步骤S2.1中如果是多表关联拉取任务,提交的接口数据会有1个主表和多个辅助表,对主表构建SQL,进行分片逻辑得到分片SQL,对主表的分片SQL进行并行受控拉取,由主表记录驱动反查辅助表,将查询得到的数据进行格式转换,保持和增量同步的数据格式一致,对主表和辅助表的数据进行消息批化处理,得到最终数据; S2.3.步骤S2.1中如果是多表独立拉取任务,则构建表SQL,均匀分发到各节点,对表SQL进行分片逻辑得到分片SQL,对分片SQL进行并行受控拉取,将拉取到的数据进行格式转换,保持和增量同步的数据格式一致,得到最终数据; S2.4.将步骤S2.2的最终数据和步骤S2.3得到的最终数据作为查事件; S3.将S2步骤产生的增删改查事件路由到分布式的并行Stream管道; S4.并行Stream管道将增删改查事件以异步请求响应模式按各表配置的维度字段路由分发到Actor模型分片集群的Actor实体中; S5.在Actor模型分片集群的Actor实体中根据增删改查事件的先后顺序进行事件持久化和状态更新,以及基于当前状态的复杂转换逻辑,并将结果返回Stream管道; 基于当前状态的复杂转换逻辑包括: S5.1.Actor模型分片集群中的Actor实体中的当前状态由经步骤S4中维度字段逻辑切分得到的多张子表构成; S5.2.对当前状态中的子表的操作,封装成SQL模式,经过SQL模式计算处理后得到临时的中间表,作为下一个操作的输入表; S5.3.组合多个子表的操作得到复杂转换逻辑; S6.Stream管道对Response事件进行消息批化和排序去重处理; S7.将S6步骤的结果写入Sink数据源,并进行Source数据源和Sink数据源的端到端的异步ACK机制,如果确认成功,就完成数据同步。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人杭州尚尚签网络科技有限公司,其通讯地址为:310012 浙江省杭州市西湖区万塘路317号华星世纪大楼2层202房;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。