利用Alluxio系统提升按需数据分析服务的性能

  • 时间:
  • 浏览:1

1. 架构示例图介绍

在只是 大数据应用场景中,一点具体的解决大问题通常只涉及到整体数据集的有一个子集或累积数据。这原因 长时间占用大规模集群的整体数据分析法律土法子的资源有效利用率较低,有时候总体代价较高,尤其在系统采用计算和存储并置(co-locate)部署架构的场景下各位严重。另外,在只是 即席查询和计算应用中,数据的分析任务通常由上层用户零散地给出,与用于解决管道数据和流数据的连续运行分析任务不同,例如零散的分析任务会造成集群的计算能力一点时间段随后 了被充分利用。买车人面,集群的存储容量也能 容纳可能被访问到的任何数据,尽管实际上每次也能 使用的工作集合只是 我整体数据的一小累积。最后,集群四种 还也能 多量精心的维护管理工作,以确保集群使用者之间的隔离和性能不受彼此越多影响。    

上图显示了利用Alluxio提升按需数据分析服务性能的架构图,从图中能随后 了看出Alluxio与按需使用的计算集群部署在一并,从而减少计算集群频繁访问远程存储的耗时。

3. 总结

幸运的是新架构处在的例如大问题能随后 了通过在计算集群上部署Alluxio得到很好的解决。通过引入Alluxio,能随后 了使得计算任务的I/O强度达到内存级别,有时候不也能 维护长时间运行的集群或昂贵的前期投入成本。

相比于长期运行的计算分析集群高昂的成本和维护工作量,与对象存储结合使用的按需计算集群的架构是有一个更简洁和更具性价比的服务解决方案。通过在计算集群中并置(co-locate)部署Alluxio和计算框架,大伙克服了例如按需集群模型的关键性的性能缺点。Alluxio系统的派发使其成为大数据软件栈中提供此核心功能的有一个很好的选折 。

2. 结合Alluxio系统架构的优势分析

对于上述什么大问题的简洁而优雅的解决方案是采用四种 上层按需计算集群结合底层对象存储的架构。例如架构通过解耦也能 连续运行的持久化存储模块和随后 了处在分析任务才使用的计算模块来解决什么大问题的根源。与上段提到的也能 连续运行的整体化集群架构相比,例如架构具有如下优势:

Alluxio是部署在计算群集中的虚拟的分布式存储系统,为上层应用的I/O提供内存级访问强度的性能。 通过Alluxio虚拟化底层存储系统,使得任何基于Alluxio API接口(Alluxio提供HDFS兼容接口)编写的计算进程运行运行都能自动地访问用任何或多个底层存储系统,而不也能 修改任何代码。此外,Alluxio是有一个设计为可横向扩展的分布式存储系统,这原因 通过部署更多的机器来轻松地存储更大的数据集并提高访问性能。

Alluxio为用户提供较高的灵活性和强度。任何也能 持久化的结果或转换都能随后 了通过Alluxio直接完成,Alluxio能随后 了将数据同步传播到底层存储系统,以确保数据不需要可能节点故障而丢失。此外,用户还能随后 了选折 仅在Alluxio内存中存储临时数据或上面数据,从而允许计算任务对什么缓存的数据进行内存级强度访问。

版权申明:本文由南京大学顾荣、黄志翻译派发自Alluxio公司技术博客,由Alluxio公司授权云栖社区及CSDN首发(联合),版权归Alluxio公司所有,未经版权所有者同意请勿转载。

事实上,部署和使用Alluxio对上层进程运行运行而言是简单和透明的。进程运行运行还是不断地访问数据,就好像作业直接访问的是远程存储上的数据,Alluxio会智能地将热数据保处在计算集群的内存中以供后续读取。整个过程对于进程运行运行是透明的,有时候不也能 进行手动ETL。一旦数据进入Alluxio,它将对集群的所有进程运行运行可用,有时候在同一数据集被多次使用的场景中,应用的性能会大幅提高。

事实上,例如计算和存储解耦的方案具备上述优势的一并,也处在着有一个关键的缺点:性能损失。这是可能底层的对象存储通常并有的是为高I / O吞吐量而设计的,有时候会原因 上层的计算分析任务可能会可能数据访问强度低下而整体性能变地低效。