数据结构论坛

首页 » 分类 » 常识 » 年迄今为止最酷的10个大数
TUhjnbcbe - 2021/8/7 14:41:00
北京权威雀斑医院 https://m-mip.39.net/baidianfeng/mipso_8714638.html

管理不断增长的数据量仍然是企业和组织面临的挑战。这里有10个很酷的大数据管理工具和平台,引起了我们的注意。

大数据管理的大挑战

全球COVID-19大流行并没有减缓数据的指数增长:IDC最近计算出,年全球创建、消费和存储了64.2泽字节的数据。市场研究人员预测,全球数据创建和复制将经历23%年至年的复合年增长率。

好消息是创新的IT供应商,无论是老牌公司还是初创公司,都在继续为一系列数据管理任务开发下一代平台和工具,包括数据操作、数据集成、数据准备、数据科学、数据治理、数据发现和数据沿袭跟踪。

以下是一些很酷的大数据管理工具,它们在年年中引起了我们的注意。

Airbyte

早期创业公司Airbyte(成立于年1月)开发了一个开源数据集成平台,用于将来自不同来源的数据复制和整合到数据库、数据仓库和数据湖中。组织可以使用该平台在数据源之间构建管道,包括Salesforce和FacebookAds等运营应用程序,以及Snowflake和AWSRedshift等云数据仓库。

虽然Airbyte正在与众多成熟的ETL(提取、转换和加载)工具供应商竞争,但该公司鼓吹其软件的简单性,并坚持认为即使是非技术业务分析师也可以使用它来复制数据。这家初创公司的开源方法创造了一个活跃的用户社区,该社区正在为该平台快速开发其他连接器。

今年1月至5月期间,Airbyte的客户群增长了八倍,达到2,多个。这家总部位于旧金山的公司于5月在A轮融资中筹集了万美元。

AlationCloudService

Alation已将其原始数据目录软件扩展为用于一系列企业数据智能任务的平台,包括数据搜索和发现、数据治理、数据管理、分析和数字转换。

4月,该公司通过其新的Alation云服务将这些功能扩展到云,这是一个基于云的综合数据智能平台,可以通过云原生连接器连接到云中或本地的任何数据源。

该公司总部位于加利福尼亚州雷德伍德城,该公司表示,新的云产品及其持续集成和部署选项提供了一种简单的方法,可以在组织的混合架构中推动数据智能,同时降低维护和管理开销并缩短交付时间。价值。

AtScaleCloudStart

AtScale的旗舰产品智能数据虚拟化平台使用语义层技术为分布式数据提供基于云的OLAP(在线分析处理)分析——无论它位于何处。

这家总部位于波士顿的公司于5月推出的全新AtScaleCloudStart通过将AtScale的语义层与云数据管理系统(包括Snowflake、MicrosoftAzureSynapseSQL、GoogleBigQuery、AmazonRedshift和DataBricks)集成,提供了一种在云数据平台上构建分析基础设施的方法。

CloudStart可以更轻松地将Tableau、PowerBI和Looker等业务分析工具连接到多个云数据源。

CockroachDB21.1

位于纽约的CockroachLabs开发了CockroachDB,这是一种云原生分布式SQL数据库,旨在处理具有大量事务数据的工作负载。

Cockroach在5月推出了CockroachDB21.1,使用单一数据库将数据关联到世界任何地方的特定位置变得更加简单——这是一项重大挑战,因为越来越多的国家和地区要求将数据保留在其境内。

新的数据库版本提供了独特的架构和内置功能,可使用少量SQL语句管理世界任何地方数据的地理位置——无需架构更改或手动分片——为用户提供近乎即时的数据访问,同时确保本地合规性。

该版本通过将数据放置在靠近最终用户的物理位置来最大限度地减少事务延迟,通过使用在区域或云故障中幸存下来的冗余来消除中断,并支持本地数据隐私要求。

DatabricksDeltaSharing

Databricks在5月份启动了DeltaSharing计划,旨在创建一个开源数据共享协议,用于跨组织实时安全地共享数据,独立于数据所在的平台。

Delta共享包含在开源DeltaLake1.0项目中,它建立了一个通用标准,用于共享所有数据类型(结构化和非结构化),其开放协议可用于SQL、可视化分析工具和编程语言(如Python和R.大规模数据集也可以实时共享ApacheParquet和DeltaLake格式,无需复制。

据Databricks称,DeltaSharing计划已经吸引了包括纳斯达克、标准普尔和Factset在内的许多数据提供商以及包括亚马逊网络服务、微软和谷歌云在内的领先IT供应商的支持。

DeltaSharing是Databricks的最新开源计划,Databricks是最受

1
查看完整版本: 年迄今为止最酷的10个大数