普元公司助力某大型保险企业构建数据服务生态8
发表时间:2022-01-13 11:25 应用行业:保险 应用需求 随着保险行业的业务与技术的快速发展,保险交易呈现出高频化、碎片化、场景化等特点,并对系统的处理能力、容量、业务连续性、需求相应速度、运维响应速度提出了更高的要求。某大型保险集团数据资源信息分散、各子公司之间的数据资源无法共享、内部应用获取数据来源分散、方式多样难以管理且获取的客户数据时效性较低、数据形式不统一、缺乏统一的数据服务共享平台。当前,数据资源已经成为了企业重塑业务、自我转型的决定性因子,如何有效的管理数据、高效的提供数据服务是目前企业对所面临的关键挑战。在此背景下,该集团需要一个能够源源不断地输出数据资源、数据服务的能力源泉,为企业数字化转型提供有力保障。如何改善同质化业务模式,逐步实现以客户为中心的数据驱动精准化、差异化经营模式成为该保险企业努力探索的方向。 数据服务共享平台是企业数据资源“纵向贯通”“横向互联”的共享通道。平台对数据资源进行体系化管理,以“技术元数据+业务元数据”的方式让数据更容易被发现,让用户知道企业可以提供什么数据。规范数据管理过程,需从数据定义、服务开发、服务消费、运行管控四方面着手,实现数据资源的闭环管理。平台对外提供接口、文件和数据库三种数据服务类型的数据共享,通过自动化采集,自动形成企业全数据链路,形成数据服务应用的全貌图,使用户从全局了解企业数据服务应用情况。 数据服务共享平台让数据在数据平台和业务系统之间形成了良性的闭环,实现了应用与数据解耦,通过集中管理方式实现各个系统之间数据的共享和使用,使企业的数据在各个业务系统之间进行流转。数据服务共享平台在前端业务系统与后端数据平台之间搭建了一个桥梁,提高了数据对业务的响应能力并提供专业化服务,充分发挥数据资产的价值。 产品架构 数据服务共享平台基于大数据架构提供统一的数据服务能力,是企业数据资源对外开放的共享通道。平台将各类数据库、大数据、文件、接口等数据资源统一在资源目录中进行注册管理,依据客户实际主题分类对数据资源进行业务划分。平台依托于实时服务引擎、批量服务引擎对单表、多表、结果集、文件等数据资源进行开发,最终形成数据服务,对外进行共享。用户通过平台对已经发布的数据服务进行检索,根据实际需求申请数据服务,平台支持申请与订阅两种方式获取数据资源。管理员对数据服务申请进行审批,对数据服务进行认证授权。平台通过监控引擎、日志引擎实现对数据服务状态、服务调用情况等进行统计监控。 流式数据服务链接企业上下游数据应用,打通数据应用全生命周期: ● 数据目录化:核心是数据的资产化,将源数据、前置区、共享区的数据通过Metadata API抽取,形成数据目录,挖掘有价值的数据形成资产。 ● 目录服务化:形成Data API,将前置区、共享区的数据,通过数据服务装配/开发,形成具体的服务,可以是实时数据服务、批量数据服务。 ● 服务开放化:形成Service API,通过数据服务申请、审批数据服务运维监控,将数据服务的能力开放给业务部门、合作伙伴等。 关键技术特点: ● 资源层基于元数据驱动实现数据资源目录管理,支持对主流关系型数据库(Oracle、SQLServer、Mysql、高斯、达梦等),大数据(HBase、Hive)、文件等多种类型数据资源技术元数据的自动采集和业务元数据的维护。 ● 平台访问层基于JDBC、HTTP、RPC等通信协议实现与底层数据和文件间的访问交互,基于Socket通信实现平台各组件间的数据通信,确保平台中数据间交互与通讯高效、安全、可靠。 ● 平台逻辑层依托于各类适配器、组件、引擎保证平台的安全稳定运行,适配器有数据库(DBAdapter)、HBase (HBaseAdapter)、Hive(HiveAdapter)、文件(FileAdapter)等类型;组件包含安全、监控、Redis缓存、日志等组件;引擎包含实时服务引擎、批量服务引擎、监控引擎、日志引擎等。 ● 服务提供层是基于微服务架构的数据服务发布组件;基于SpringBoot框架实现一套微服务架构引擎;基于MyBatis持久层进行数据访问,提供了实时服务快速发布及服务访问的能力,支持分布式部署,线性扩展。 ● 平台展示层使用NUI框架,结合HTML/JSP、CSS等业界前沿技术实现丰富的界面展示效果,提升使用者的交互体验。 ● 服务告警机制:服务引擎告警是对服务平台的服务引擎CPU、内存指标进行检测,当达到阈值时进行告警;服务状态告警是对服务状态的实时探测,当服务停止运行及时进行告警通知;服务质量告警是针对服务的访问异常、响应时间进行监控,当访问出现异常或者响应时间达到配置阈值时自动进行告警。 ● 安全保障机制:基于HTTPS、SFTP协议进行传输,防止数据在传输过程中被窃取、篡改,确保数据的完整性。消费方系统访问服依次通过token授权、IP白名单、访问频度、访问流量多重控制策略进行控制,保证服务访问安全。该机制根据脱敏规则对字段任意数据进行加密脱敏,提供MD5、AES、BASE64加密算法,保障数据安全。 应用价值 通过数据服务共享平台建设,该保险企业逐步实现了数据资源服务规范化和标准化管理,避免了花费大量的时间和成本去做新的开发与集成工作,也不必投入过多的精力专注于ETL、ESB、Hadoop等各种技术就能掌握自身有哪些数据资源,避免了数据资源的重复生产及浪费,同时根据数据资源状态快速开发数据服务,与以往传统开发方式相比更加高效与可靠,原来需要三天到五天进行的服务开发与上线工作,现在只需一天即可完成,减少了企业的运维成本;依托于数据服务共享平台,逐步改变了以前被动响应业务需求的工作模式,主动响应业务需求,实现了业务场景的敏捷开发,节约了企业的时间成本。 数据服务共享平台对外可以逐步实现该企业数据资源的能力开放,快速响应客户新的业务诉求进行高性能、高可靠的接口服务开发,从而提升客户体验、增强客户满意度,最终实现以客户为中心的数据驱动精准化、差异化经营模式,提高企业竞争力,为企业数据资源价值变现打下坚实的基础。 普元信息数据服务共享平台提供资源目录服务、多类型数据服务化的开发、数据资源调度服务、数据接入及访问服务,帮助企业逐步实现数据服务规范化和标准化。数据服务共享平台不仅仅是技术工具,更是重要的数据运营平台,通过该平台能够降低业务对技术依赖,充分发挥业务创新潜能。 普元信息简介: 普元信息是国内软件基础平台(中间件)专业提供商,主要为金融、政务、能源、电信、制造业等行业客户提供创新可靠的软件基础平台产品及相应技术服务。公司是国家规划布局内重点软件企业,是国家企业技术中心、博士后科研工作站、国家高技术产业化示范工程单位,业务覆盖基础中间件、云应用平台、大数据中台三大领域,帮助客户搭建自主可控的创新基础平台架构,满足客户快速应对新一代信息技术下实现数字化转型的需求。经过十余年自主研发创新积累,公司系列软件基础平台产品和技术方案,在技术先进性、性能优越性、产品成熟度及安全可靠性等方面得到了各行业逾千家客户的验证,并成熟应用于金融、政务、能源、电信、制造等多个行业领域,普元信息已发展成为市场广泛认可、具有竞争力的国产软件基础平台(中间件)品牌。 |