什么是数据编织?简化企业数据整合基础设施,创建可扩展架构改进数据使用!

文 | 商业智能BI相关文章 阅读次数:366 次浏览
2023-10-31 15:59:41

在过去几年中,数据编织(Data Fabric)一词已成为企业数据集成和管理的代名词。分析公司 Gartner表示:“在过去的十年里,数据和应用孤岛的数量激增,而数据和分析(D&A)团队的技能型人才数量却保持不变,甚至下降。作为一种跨平台和业务用户的灵活、弹性数据整合方式,数据编织能够简化企业机构的数据整合基础设施并创建一个可扩展架构来减少大多数数据和分析团队因整合难度上升而出现的技术债务,其的真正价值在于能够通过内置的分析技术动态改进数据的使用,使数据管理工作量减少70%并加快价值实现时间。”

一、什么是数据编织?

数据编织使整个企业的数据访问大规模民主化。它是一个单一的、统一的架构——具有一组集成的技术和服务,旨在在正确的时间、以正确的方法向正确的数据消费者提供集成和丰富的数据——以支持运营和分析工作负载 .

数据编织结合了关键数据管理技术,例如数据目录、数据治理、数据集成、数据管道和数据编排。

数据编织

二、为什么要使用数据编织?

全球范围内,进入网络环境的利益相关者数量正在增加。每个人都连接到互联网,每个平台都成为数据来源。最大化数据价值已成为一个复杂的问题。当今数据的挑战包括:

· 存储在多个本地和云端位置;

· 结构化和非结构化数据;

· 不同的数据类型;

· 不同的平台环境;

· 存储在不同的文件系统、数据库和SaaS应用程序中;

· 数据呈指数级增长,因此这些问题正在倍增。

这些问题和变化使得轻松访问或使用数据变得复杂。而且,如果组织希望将人工智能和机器学习产品化或实施,它们需要收集、转换和处理数据。

如今,大多数组织倾向于在孤立的环境中处理问题,为组织中的不同部门管理数据的方式多种多样。尽管这种解决方案使数据对特定群体可用,但全公司范围内访问它几乎是不可能的,通常导致数据闲置未用。

缺乏全面的数据访问和使用导致基础设施投资回报率低,数据供应不足以生成有用的预测,降低了生产力。在这种情况下,数据编织可以提供帮助。

三、数据编织与数据治理

狭义的数据治理重点是对数据质量的管理,广义的数据治理是数据管理的一整套规则和机制,核心是让数据有序和可管。数据治理是基于内部数据标准、策略和规则,管理企业数据的可用性、完整性和安全性,从而将数据转化为企业资产。

传统的数据治理在实际落地中,往往会陷入一乱一治的怪圈,容易形成被动的数据管理。而数据治理未来的发展方向则是与AI的结合、与数据安全的深度融合、呈现更大的数据价值。

在传统的数据治理体系中是没有包含数据编织的,但数据编织(Data Fabric)是一种数据管理的全新架构,是自动化、智能化数据治理的一个理想解决方案,从数据架构层面增强了企业数据管理的能力,是传统数据治理的重要补充。

四、数据编织的实施

数据编织始于在线事务处理(OLTP)概念。在线事务处理中,有关每个交易的详细信息被插入、更新并上传到数据库中。数据是结构化的,经过清洗并存储在中心位置以供进一步使用。数据编制中的任何数据用户都可以获取原始数据并使用它来得出多个发现,帮助组织利用其数据实现增长、适应和改进。

成功实施数据编织需要:

1.应用和服务:建立获取数据所需基础设施的地方。这包括开发应用程序和用于客户与组织互动2.的图形用户界面(GUI)。

3.生态系统的开发和集成:创建必要的生态系统,用于收集、管理和存储数据。需要以不丢失数据的方式将来自客户的数据传输到数据管理器和存储系统。

4.安全性:对来自所有来源的数据进行适当的安全管理。

5.存储管理:以可访问和高效的方式存储数据,并允许在需要时进行扩展。

6.传输:建立访问来自组织各地点的数据所需的基础设施。

7.端点:在存储和访问点开发软件定义基础设施,允许实时获取见解。

五、结语

数据编织是近两年在国外备受追捧的概念,而在国内刚刚起步。之前IT技术从概念到落地大概需要10年左右的时间,近些年这个时间已经大大缩短。可以预见的是,数据编织在国内也将被越来越多的企业用于解决数据资产多样性、分散性、规模化和复杂性不断增加以及数据使用人群和应用场景爆发式增长带来的一系列问题。

总的来说,Data Fabric作为一个新兴的概念,还需进一步的成熟和完善。但Gartner将“数据编织”列为“2021 年十大数据和分析技术趋势”之一,并预测到 2024 年,25% 的数据管理供应商将为数据编织提供完整的框架——高于目前的 5%。

帆软为企业提供一站式商业智能解决方案,提供了从数据准备、数据处理、可视化分析、数据共享与管理于一体的完整解决方案与数据工具。

帆软FineDataLink——中国领先的低代码/高时效数据集成ETL工具,能过为企业提供一站式的数据服务,通过快速连接、高时效融合多种数据,提供低代码Data API敏捷发布平台,帮助企业解决数据孤岛难题,有效提升企业数据价值。

帆软FineReport——一款用于报表制作,分析和展示的工具,用户通过使用 FineReport 可以轻松的构建出灵活的数据分析和报表系统,大大缩短项目周期,减少实施成本,最终解决企业信息孤岛的问题,使数据真正产生其应用价值。

帆软FineBI——新一代大数据分析的 BI 工具,旨在帮助企业的业务人员充分了解和利用他们的数据。FineBI 凭借强劲的大数据引擎,用户只需简单拖拽便能制作出丰富多样的数据可视化信息,自由地对数据进行分析和探索,让数据释放出更多未知潜能。

若想了解更多一体化大数据解决方案,请点击:《帆软数据仓库和商业智能BI解决方案》

相关内容

立即咨询 立即咨询

在线客服

电话咨询

技术问题

投诉入口

返回顶部