非结构化数据(数据中台来了!)

精英怪
广告

云平台和数据中台是泛在电力物联网系统建设的重要基础性支撑平台。

非结构化数据(数据中台来了!)

其中数据中台是国网泛在电力物联网企业中台的一部分,可提供结构化,非结构化,量测类数据的接入,存储,计算等多种处理能力,可对外统一提供数据服务。

打比方来说

我们家里厨房有油/盐/酱油/醋/料酒/生抽…

很多种调料(数据)

你(业务部门)

特别喜欢吃糖醋排骨/糖醋鱼/糖醋里脊/糖醋猪蹄…(各种业务应用)

你老妈(IT部门)

觉得每天都按照比例调制糖醋汁

很麻烦很浪费时间还每次都有偏差

(每次数据有误差)

于是你老妈决定按照

“1料酒;2酱油;3白糖;4醋;5水”的比例

(数据算法)

调制好一大桶糖醋汁

(数据产品)

以后每天倒一点糖醋汁

就可以很快做出一盘糖醋XX(业务应用)

这个调制糖醋汁的过程就相当于构建了一个数据中台,糖醋汁就是数据产品。数据产品往往不是直接提供给用户使用的,而是提供给业务应用使用的。

(类似于糖醋汁不是用来直接喝的,而是用来做糖醋XX的)。

Q1:什么是数据中台?

基于华为产品的数据中台主要包括贴源层、共享层、分析层、统一数据服务组件、数据资产管理组件与数据安全管理组件等。通过沉淀共性数据服务能力,形成数据接入、存储计算、数据处理、数据分析、数据服务、数据管理等技术能力,实现数据“接、管、用”全过程管理,形成数据业务化、业务数据化的动态反馈闭环。

数据中台定位于推动数据共享,支撑天津公司泛在电力物联网建设,对内为各专业、各单位提供数据共享和分析应用服务,支撑前端应用和业务中台服务构建,对外实现开放共享合作,提升社会资源整合能力,带动产业链协调发展。

Q2:数据中台和云相关产品技术验证工作的意义是什么?

基于核心业务应用场景,验证相关互联网公司产品可用性、易用性,验证快速构建服务、运营管理等方面的技术支撑能力。基于验证工作,进一步细化完善数据中台和云优化提升技术方案,并形成支撑核心业务应用的典型技术方案。通过验证,国网公司内部支撑团队深入了解相关产品部署及使用方式,开展技术及人员储备,为下一步公司泛在电力物联网建设奠定人员基础。

Q3:数据中台和云相关产品技术验证工作的成果如何?

此次华为产品技术验证工作分为数据中台验证和云平台验证两方面,包括典型业务应用场景测试及必要的POC内容测试。天津公司为了全面验证华为数据中台及华为云平台,在完成国网公司下发的规定验证内容以外,增加了4项华为数据中台附加功能测试和60项云平台附加功能测试。

测试过程中,公司领导多次前往测试现场视察并参与方案讨论。

测试成果—数据中台安装部署

数据中台共部署FusionInsight HD节点9台、GaussDB200节点5台,各类设备共计14台(套),最大可支撑100TB数据存储,包括存储结构化数据30TB及70TB其他类型数据。

硬件要求方面

华为GaussDB 200和FusionInsight HD产品可部署在通用的X86服务器(不限于华为服务器)或华为TaiShan ARM服务器上,且FusionInsight HD支持X86服务器和ARM服务器混合部署。

耦合度方面

华为数据中台产品与云平台是松耦合关系,即可以独立部署,又可以被云平台统一纳管,构建华为数据中台的底座核心产品GaussDB 200和FusionInsight HD亦是松耦合关系,彼此独立,也可以同时被一套管理节点纳管。

部署方式方面

GaussDB 200和FusionInsight HD可支持云化部署及大集群部署方式。

扩容方式方面

华为数据中台产品可平滑扩容、滚动升级,升级期间业务无需停机。

安装便捷性方面

华为数据中台产品可通过集成的集群部署规划工具,自动生成安装模板和扩容模板,支持图形化部署工具一键式部署。

部署人员依赖性方面

华为提供的产品组件都为通用级架构,并有详细的部署解决方案,可由具备相应技术能力的工程技术人员部署实施,无特殊部署技能依赖。

测试成果—数据中台总体测试结果

本次天津公司试点开展华为数据中台相关 产品技术验证测试,其中数据中台核心功能POC验证共计104项验证需求,测试通过81项,未通过23项,通过率77.88%。

数据中台典型场景验证共计98项验证需求,测试通过72项,未通过26项,通过率73.49%此外,附加亮点测试功能项4项。

测试成果——云平台安装部署

本次测试中,云平台共部署17个计算节点、5个管理节点、2个网络节点、分布式存储4台、交换机8台,各类设备共计36台(套),最大可支撑发放300个虚拟机,500个容器。

硬件要求方面

华为云平台安装部署所需硬件为典型X86服务器、交换机及存储等设备,除部分服务器对加密硬盘及智能网卡有特殊需求外,其他基本无特殊硬件配置要求。

耦合度方面

华为云平台支持云服务与云平台解耦,支持异构或利旧X86服务器,支持异构第三方网络设备,组件耦合度较低。

部署方式方面

华为云平台提供全自动安装部署工具,实现云服务及相关组件自动化安装及配置,简单快捷。

扩容方式方面

华为云平台管理节点、网络节点、计算节点、分布式存储、大数据集群均可按需平滑扩容,云服务、计算能力、存储能力、网络能力、大数据能力、容器和微服务能力也支持平滑扩容。

安装便捷性和部署人员依赖性方面

云平台安装部署、扩容均可通过自动化工具完成,具体操作由用户直接完成,对云厂商及人工依赖性不高。

测试成果—云平台测试结果

本次天津公司试点开展华为云平台相关产品技术验证测试,其中云平台核心功能POC验证136项验证需求,验证通过132项,不通过4项,通过率为97.06%。云平台典型场景验证共计41项验证需求,测试通过41项,通过率100%,此外,附加亮点测试功能项60项。

Q4:在数据中台和云相关产品技术方面下一步天津公司怎么做?

方案编制,产品测试。2019年6月,优先选用华为云,利用天津公司现有设备,开展云平台和数据中台产品测试方案编制与产品测试,7月19日完成国网公司下发测试工作任务,7月底完成天津公司自有场景测试任务。

基础构建,试点支撑。2019年9月,完成数据中台和云基础支撑能力构建,试点开展支撑重点业务。作为天津公司数据中台建设的起步阶段,该阶段通过双线推进,着力构建数据中台基础支撑能力,试点接入数据,基于SG-CIM4.0试点支撑重点业务。

全面建设,持续服务。2019年12月,数据中台初步建成,按需完成搭建服务,逐步数据迁移。本阶段为数据中台的全面建设阶段,通过双线推进,全量接入数据,逐步迁移,按需搭建服务。

迭代完善,全面服务。2020年6月,完成全部数据迁移,持续迭代完善。本阶段是数据中台的建成阶段,数据及应用全部迁移,数据中台单轨运行,持续迭代完善。

内外融通,服务补强。2021年,开展外部交互构建,数据中台全面建成。本阶段是数据中台的全面建成阶段,重点构建外部交互能力,补强数据中台支撑服务。

发表评论

快捷回复: 表情:
AddoilApplauseBadlaughBombCoffeeFabulousFacepalmFecesFrownHeyhaInsidiousKeepFightingNoProbPigHeadShockedSinistersmileSlapSocialSweatTolaughWatermelonWittyWowYeahYellowdog
评论列表 (暂无评论,285人围观)

还没有评论,来说两句吧...