首页> 中文会议>2017年全国高性能计算学术年会 >PB级数据在高性能计算系统中的协同预处理设计

PB级数据在高性能计算系统中的协同预处理设计

摘要

高性能计算应用的数据量日益增长,数据密集型应用占比日益增加,在计算能力之外,高性能计算系统的存储能力、数据吞吐能力越发重要.数据预处理作为全流程处理中的重要一环,在数据量大的条件下不可忽视.如何在HPC系统现有条件下高效完成数据预处理,并且合理利用系统资源,是应用在HPC系统中适应性设计的重要挑战.本文利用高性能计算系统中的存储管理单元的高吞吐特性,设计了大规模数据的存储协同预处理方案.并在神威太湖之光环境下,进行了PB级的数据预处理的样例实验,实验证明了设计的有效性.

著录项

相似文献

  • 中文文献
  • 外文文献
  • 专利
获取原文

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号