首批通过分布式安全可靠测评,为关键业务系统打造
基于混合云搭建同城多活架构,实现降本增效
- 50%成本降低
- 20倍性能提升
- 20PB数据年增长
一、业务背景
在毫末智行大数据环境的组织机构业务中,数据的流转主要可以分为三个周期:数据采集、数据处理和数据管理。在每个不同周期,数据也都具备其相应特点:
● 数据采集:存在车型多样、解析规则复杂、数据包体积大、需要永久保留等特点。
● 数据处理:存在数据量大、时效性要求高,处理过程复杂等特点。
● 数据管理:根据业务特性、数据属性、成本等多个维度,决定了数据管理的复杂度极高。
首先,在数据采集中,不同的车型会根据其所分配的任务去采集数据。这些车型可能包括家用轿车、SUV、越野等不同类型。其次,根据车型、硬件型号、雷达位置或图像收集位置等信息,需要制定一个详细的解析规则。由于需要考虑各种因素,这个解析规则可能相对复杂。最后,要将收集到的数据进行永久保留处理。因为在整个训练过程中,为了应对各种不同的训练场景,数据经常会通过筛选的方式被反复使用
正是因为在数据产生过程中存在以上种种难点及问题,毫末智行逐渐萌生了从 MySQL 逐渐转为分布式数据库的想法。
二、业务挑战
- 数据管理工作面临较大压力和挑战
- 由于公司规模和云环境的庞杂,数据管理对于公司来讲可能逐渐成为了一个严峻的任务,特别是当一个人负责多个云上的 RDS 产品和自建 MySQL 实例时,管理难度会进一步提升。
- 毫末智行是基于多云的环境下,每个云上都有 RDS 产品,以及自建的 MySQL 主从实例。由少数或者单个运维单独负责数据管理部分,不仅工作量比较大,还会出现难以集中管理的问题。
- MySQL告警频繁
- 特别是当公司数据量过亿之后,MySQL 的性能就会显得较为吃力。目前,公司数据量还会以每年 5 亿的速度不断增长,这将对公司的数据管理带来更大的压力和挑战。
- 由于存在大量的范围查询,导致 MySQL 频繁告警的问题,无论是从运维或者研发的角度来看,单独抽出时间和精力,利用分库分表或者其他方式进行解决告警频繁问题所付出的成本过高,并且时间和精力也有限。
三、解决方案
- 基于混合云的同城多活架构
- 在多副本策略的基础上,OceanBase 能够实现基于混合云的同城多活架构。这意味着即使在一个城市内,不同的机房也可以作为数据副本的存储位置。这种架构确保了即使某个机房发生故障,系统仍然可以正常运行,并提供了高可用性和容错能力。
- OMS 工具进行数据迁移
- 同城多活架构通过利用 OMS 工具进行数据迁移,能够将数据从 MySQL 集群迁移到与它匹配的 OceanBase 集群,确保迁移过程中的数据完整性和准确性。这种迁移过程的高效性和定制性,使得企业能够根据自身需求进行数据管理和处理,并提供更好的数据管理和处理能力。
- OCP 集中管控工具进行集群管理
- OCP 集中管控工具的使用提供了更好的管理和监控能力。通过集中管控,能够更好地管理和监控各个集群的状态和性能,确保系统的稳定性和可靠性。
四、客户收益
- 高可用能力提升
- 毫末智行一直使用公有云,最早的 OceanBase 集群已稳定运行了六个月,虽然期间经历了一次公有云的故障,但由于 OceanBase 自身的高可用特性,业务并未受到严重影响。
- 各项成本降低
- 使用 OceanBase 后,云端成本从使用 MySQL、RDS 时的 10 万/月缩减至使用 OceanBase 时的 4 万+/月。此外,通过自动化和智能化的管理方式,OceanBase 简化了运维流程,减少了人工干预和操作成本。特别是在公司数据量增长或业务调整时期,解决了之前 MySQL 告警频繁的问题,帮助运维人员减轻了大量的工作负担。
- 多实例易于管理
- 在 采用 OceanBase 之前,运维人员需要自行进入公有云 A 或公有云 B 中分别进行管理,或者是登录 ECS 服务器去集中管理,这种方式非常复杂且不方便。采用 OceanBase 后,可以利用 OCP 进行集中管理多个集群或在一个集群中管理多个租户,这样就实现了对所有实例的统一管理。
- 资源实现灵活调整
- OceanBase 的多租户特性可以很好地根据公司业务高峰或低峰快速调整资源并重新进行分配,大大减少了配置变更所带来的风险。
- 性能提升超预期
- OceanBase 的性能也超出了预期。在 MySQL 操作上亿条数据时,即使有索引,SQL 执行时间至少会停留一分钟。经实际测试,将数据迁移到 OceanBase 后,即使是超长的慢 SQL ,执行时间能够保持在 2 ~ 5 秒之间。