首页> 中文学位 >一种文件路径与属性信息分离的分布式元数据组织方法
【6h】

一种文件路径与属性信息分离的分布式元数据组织方法

代理获取

目录

封面

声明

中文摘要

英文摘要

目录

1 绪 论

1.1 研究背景及意义

1.2 国内外研究现状

1.3 研究内容

1.4 本文结构

2 元数据组织方案设计

2.1 目标

2.2 整体架构

2.3 基于目录索引和桶的划分策略

2.4 基于MDS负载的分布策略

2.5 MDS集群扩展策略

2.6 元数据位置缓存策略

2.7 对比其他组织方法

2.8 方案总结

2.9 本章小结

3 元数据组织方法关键技术及实现

3.1 核心数据结构

3.2 构建目录索引

3.3 接口设计与实现

3.4 相关技术

3.5 本章小结

4 测试与分析

4.1 测试环境

4.2 性能和可扩展性测试

4.3 访问局部性测试

4.4 目录深度测试

4.5 本章小结

5 全文总结

5.1 工作总结

5.2 工作展望

致谢

参考文献

附录 攻读学位期间申请的专利

展开▼

摘要

随着大数据时代的到来,面向大数据的存储系统纷纷出现。不断增长的数据量,使得集中式元数据管理系统的负担越来越重,逐渐成为大数据存储的瓶颈。为此,人们提出了多种分布式元数据管理方法,但由于元数据的结构类型复杂多样,目前尚没有一种方法能够同时改善元数据管理的性能和扩展性。
  提出了一种文件路径和属性信息分离的分布式元数据组织方法。将元数据组织成目录索引和元数据属性信息两个部分,通过构建目录索引,将元数据以目录或小于目录为单位划分到不同的桶(Bucket)内,再根据元数据服务器集群的负载情况将桶指派到不同的元数据服务器上。方法利用目录索引和桶提高元数据的管理性能;通过构建目录索引时考虑集群负载情况,实现元数据管理的可扩展性。此外,提出基于该方法的元数据位置缓存策略,策略解决了位置缓存信息不一致的问题,缩短了元数据管理的流程。
  测试结果表明,提出的方法能获得较高的管理性能,特别适合高并发的情况;具有良好的可扩展性和较好的访问局部性,而且可以不限制目录的大小;避免了重命名元数据造成的不必要的迁移。与集中式元数据管理方法对比,方法采用单一元数据服务器时,元数据的创建、查询等操作性能都有了数倍的提升。

著录项

  • 作者

    杨勇;

  • 作者单位

    华中科技大学;

  • 授予单位 华中科技大学;
  • 学科 计算机科学与技术
  • 授予学位 硕士
  • 导师姓名 李春花;
  • 年度 2016
  • 页码
  • 总页数
  • 原文格式 PDF
  • 正文语种 中文
  • 中图分类 TP333.35;
  • 关键词

    元数据; 目录索引; 存储系统; 服务器; 缓存策略;

相似文献

  • 中文文献
  • 外文文献
  • 专利
代理获取

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号