首批通过分布式安全可靠测评,为关键业务系统打造
OB Cloud 助力华润万家零售核心系统分布式升级
- 70%系统性能提升
- 50%整体硬件成本降低
- 2s数据流转耗时小于
一、业务背景
华润万家是华润集团旗下优秀零售连锁企业,业务覆盖中国内地及香港市场,面对万家众多业务需求和互相关联的业务环境,亟需加强各业务耦合性,以适应线上、线下、物流、财务等各个业务环境的快速发展。
随着信息技术的快速发展和数字化转型的推进,数据库作为数据管理和存储的基石,正扮演着越来越重要的角色。华润万家希望通过数据库数字化升级及创新技术和智能化应用,为企业提供高效、可靠和安全的数据管理解决方案
目前公司有超过200种不同业务系统,各业务需求复杂且互相关联。线上、线下、物流、财务等各个业务环境数据链路互通,高并发、低并发、TP、AP场景共存。由于传统数据库使用过程中出现的痛点,公司亟需一款适配度更高的分布式数据库作为技术底座以加强各业务耦合性。
二、业务挑战
随着华润万家业务的不断扩展,尽管传统数据库在很多场景中表现出色,但仍然面临着处理能力、存储容量和数据处理效率等方面的挑战:
- 性能瓶颈
- 在面对大量并发请求时,传统数据库的性能会受到限制。如监控系统, 几百台主机 1~2W 监控项,后台数据库还游刃有余。当上万台主机 50~100W 监控项时 MySQL 出现大量数据延时,严重时延时超过 30 分钟,此时监控数据已无实际意义。
- 扩展性限制
- 传统数据库在扩展性方面存在一定的限制,难以满足不断增长的数据需求。如硬件限制,受制于 CPU 内存存储限制。随着数据量增长,导致数据库性能下降,响应时间增加等问题。为了保证数据库健康,我们必须时刻监控数据量,定期清理数据。这实际是对数据库性能的妥协,对于业务来说尽可能地保证数据可查可用是最理想状态。
- 高维护成本
- 随着集群膨胀架构复杂度上升,其运维开发成本急剧上升,需面临各种问题。如木桶效应:一块“短板”拖累整个系统稳定,需要投入大量的人力物力进行维护和管理。
- 安全性问题
- 传统数据库的安全性通常是关注的重点之一,需要采取多种措施来确保数据的安全性。如备份恢复问题,MySQL 数据库在备份恢复方面缺乏整体解决方案,导致备份不完整、备份文件丢失或损坏、恢复时间长等问题。如在基于中间件的 MySQL 架构中,审计问题困难较大,对用户访问、数据修改查询等操作的跟踪是较为棘手的问题,通常很难查到历史问题 SQL 的发起者。
- 高可用性不足
- 传统数据库在面临故障时,往往难以保证高可用性,影响业务连续性。华润万家在集群高可用性上也是做足了各种准备,主从架构、多从、分库、异地灾备等传统新型方案均有设计。在极端状态下其 RTO 时间也需要 10 分钟至半小时。某些情况下需要人为判断系统是否必须切换,对于风险等级业务重要度更高的数据库操作,需要整个团队共同分析、判断。
三、解决方案
- OceanBase原生分布式替换分库分表
- 核心系统原来采用MySQL 5 实例,每个实例 10 个分库,共50分库;每个实例两从库,使用中间件合并为一逻辑库读写分离。
- OMS 助力业务无缝迁移至OceanBase
- OMS上搭建了业务数据的迁移链路,包括同表、合表、校验、反向链路同步回退等;除了业务数据的迁移外,OMS也承担了关联数据流的处理,OMS支持了Canal、Debezium的格式同步到 Kafka 中,无缝衔接了上下游系统,使得数据流转过程更加顺畅。
- OMS 将 OceanBase 数据推送到 Kafka 以后,使用 Flink 流实现实时数据处理逻辑。通过 Flink 的 StreamSink 和 TableSink 将处理后的数据实时推送到目标系统,确保目标系统支持实时数据的接收和处理。其 checkpoint 机制,实现任务的持续检查和恢复。在任务运行过程中,定期检查 checkpoint 状态,确保任务在异常情况下能够恢复到一致的状态。
- OMS上搭建了业务数据的迁移链路,包括同表、合表、校验、反向链路同步回退等;除了业务数据的迁移外,OMS也承担了关联数据流的处理,OMS支持了Canal、Debezium的格式同步到 Kafka 中,无缝衔接了上下游系统,使得数据流转过程更加顺畅。
四、客户收益
经过多次充分准备和验证成功将万家某核心系统迁移融合至 OceanBase 数据库平台,在迁移过程中,用户无感知,业务系统稳定运行,经过实际生产验证,较原系统性能提升约 70%,成本降低约 50%,为企业的持续增长和业务扩展提供了坚实的技术支持。
- 高性能
- 64c 256g 机器,较原系统性能提升约 70%。
- 低成本
- 实际生产核算15TB数据,迁移后约6TB数据,整体硬件成本降低约 50%;
- 运维工具完善,ODC、OMS、OCP,极大降低运维成本,提高运维效率;
- 实际生产核算15TB数据,迁移后约6TB数据,整体硬件成本降低约 50%;
- 高可用及扩展性
- RTO<8s,快速扩展集群资源时,无需停机,即可实现应用基本无感的在线扩容。
- 数据实时性提升
- OMS+Flink 方案保证了用户操作简单和数据实时性,整个数据流转可在 2s 内完成,保证每一笔数据消费都能准确实时可靠地推送至每一个用户。