正睿新闻中心

HPC最佳存储实践之:三种HPC存储方案

间隙填充
正睿科技  发布时间:2011-07-19 10:36:29  浏览数:1797
本文是HPC最佳存储实践的第二篇(上一篇:解读HPC系统数据生命周期中的三种形态)我们常说工匠做合适的工作需要选择正确的工具。虽然这句话随处可见,但它却道出了设计和制造HPC系统的精髓。一直以来,HPC的计算部分都是用这种方法选择处理器和内存并设计互联结构、规定软件栈和工具。当然,这一切都和存储密不可分。

  要实现性能、成本、可控性、可扩展性和数据完整性的良好平衡,根据不同情况有几种存储方案可供选择。例如有些数据连续几个月都没有被存取,那么是否所有数据都需要用快速存储?又或者是否有必要用一个容量大但性能低的存储方式保留数据而不是运行应用程序?不同的情况应该使用不同的存储方案解决。

  这篇文章接下来的部分将描述三种HPC存储方案:(1)联机永久存储(有时被称为主存储),(2)高速高速暂存器,(3)分类存储。每一种解决方案都将对整个数据生命周期(从产生到最后归档,打个比方说就是从摇篮到坟墓)起作用。图1 阐述了这些存储工具如何适应IDC(International Data Corporation,国际数据公司)的HPC分类和吞吐量。

  

  ▲图 1. 存储工具如何符合一定的规模及吞吐量

  这三种方案能够很灵活地解决HPC的存储问题,满足您的需求并提供给您一个高效存储方案。如果您需要一种以上的存储方式,您可以轻松地以高效、低成本的方式对它进行扩展。如果您的应用程序和用户不需要高速暂存器,那么您就可以不用付费购买并行 I/O 存储方案。

  接下来,我们将要讨论第一种方案??联机永久存储,它专注于为小型系统提供合理的性能表现。另外,如果大型系统对用户主目录和应用程序目录的性能没有迫切的需求,那么联机存储也是一个不错的选择。

  3.1 HPC联机永久存储: NFS是候选方案之一

  HPC的计算节点都需要一个常见的文件系统。NFS为这个常见的文件系统提供了一个简单、稳固的解决方案。 基于NFS标准的存储方案被广泛用于Linux的HPC集群空间, 因为NFS简单易操作并且历经考验,故障模式为公众所知,而且在每一个Linux发行版中都是事实上的标准安装包,非常方便。这种特性让NFS成为了许多HPC装置的联机存储方案的一个较好的选择。根据2009IDC的调研,在110个HPC站点中,NFS是使用最为广泛的文件系统。91个最大的HPC系统中,56%都在使用NFS。同样的,近期展开的64个HPC系统中,其中64%使用的是NFS。这份调查说明在HPC部署中,NFS作为一个顶级文件系统的选择是很重要的。

  无论以下哪种情况,NFS 都可以为HPC集群提供一个稳定的文件系统方案:(1) 集群应用程序的 I/O 要求可以通过单个或者多个集群服务器满足,(2)计算节点数量与连接后台存储的带宽相称,(3)存储容量能够满足集群需要,(4) 您需要一个可靠、容易理解并易操作的存储。

  从理论上来说,如果应用程序的文件访问模式是N个用户访问N个文件,而且并行应用程序只有单个进程执行I/O,在这种情况下NFS作为主应用程序存储将运行得很好。许多使用NFS作为主存储的应用程序都能符合要求并运行得非常好。目前的最佳实践是无论HPC计算集群多大,统一使用10Gb以太网或者InfiniBand连接NFS 服务器。

  然而,当系统开始庞大起来或者数据集增加,或者当许多计算客户同时存取一个单一文件(N对1 文档存取),NFS可能就不是最佳选择方案了。在这种情况下,应用程序可以运用专用的高性能存储器来执行应用。

  总体来说,NFS不仅对小型乃至中型集群有效,在更大一些的应用环境里也同样有效。对于大一点的集群来说,NFS仍然在启用集群节点的主目录和的应用程序的共享方面发挥着重要作用。在这种情况下, NFS不是运行应用程序的最主要的存储,因此即使对大量的计算节点来说性能要求也不高。在计算节点上轻松挂载用户主目录和应用程序,也可以使用NFS实现。

  3.2 HPC联机永久存储: 戴尔NFS 存储解决方案 (NSS)

  戴尔NFS 存储解决方案(NSS)是一种完全基于NFS的文件存储,提供包括所有必须的硬件、软件、性能指南、支持和部署服务。戴尔NSS通过提供调整服务器、存储以及文件系统配置的详细指南,帮助用户部署NFS 服务器,以达到最佳性能及可靠性。

  戴尔为您提供六种NSS推荐配置,和戴尔不断发展的配置和调整存储系统最佳实践一道为帮助用户实现最佳性能。您有两个连接选择:四倍速率 (QDR) 无限带宽或者10Gb以太网连接,三种规模选择:小型(20 TB 存储容量), 中型 (40 TB存储容量),大型 (80 TB存储容量)。另外为满足应用程序的性能需求,QDR 无限带宽方案提供了高达1.4 GBps的总吞吐量, 同时10Gb以太网方案可以提供高达1.1 GBps的总吞吐量。所有六种配置使用戴尔PowerEdge和PowerVault 产品以及XFS (Red HatScalable File System )提供模块化方法来构建存储方案,裸容量能够扩展到高达96 TB。

  构成戴尔NSS的主模块为PowerEdge R710 网关服务器和 PowerVault MD1200 直连存储附件。如果您需要戴尔NSS的详细配置参数,欢迎访问戴尔NSS网站。

  • 正睿合作伙伴
  • 社区
  • 社区
  • 阅读我们的博客
  • 技术支持论坛
首页 | 注册 | 网站地图 | 通告 | 联系我们
CopyRight(C)2004-2016 Chongqing Zhengrui Technology Co.,Ltd. All rights reserved.
重庆正睿科技有限公司(C)版权所有 未经书面授权 不得转载、复制或建立镜像
渝ICP备11002339号-1  渝公网安备 50010702500475号