分布式文件存储系统技术及实现

分布式文件存储系统技术及实现

15课时 |
5683人已学 |
(4 评论)

加入学习
加入学习

HDFS NameNode

[展开全文]
muisme · 2017-06-24 · 元数据管理的可扩展性 0

1.高可用:

多备份 在故障时快速切换 保证状态一致

可行性方案:

主从方式 如:hdfs

分布式协议 paxos/raft协议

2.可扩展性

元数据容量可线性扩展

元数据服务能力可线性扩展

[展开全文]
muisme · 2017-06-24 · 元数据管理的高可用性 0

垃圾回收(异步)

在数据被删除的时候

数据写入失败,脏数据留在磁盘上

基于数据版本控制

由于机器宕机

关键点:异步删除 基于版本回收

[展开全文]
muisme · 2017-06-24 · 分布式系统功能设计-GC 0

crc 和 数据全部存入磁盘 定期对磁盘数据进行校验,确认数据没有在磁盘数据中损坏,如果有损坏数据则从其他副本中补齐

[展开全文]

不同用户级别的请求放入不同优先队列

io请求

[展开全文]
muisme · 2017-06-24 · 分布式系统功能设计-QoS 0

链式写入流程

主从模式

[展开全文]

1.读写流程

2.QoS(服务质量)

3.checksum

4.Replication

5.Rebanlance

6.Garbage Collection(GC)

7.Erasure Coding

[展开全文]
muisme · 2017-06-24 · 分布式设计要点 0

大规模分布式存储的挑战

1.磁盘错误

2.Raid卡故障

3.网络故障

4.电源故障

5.数据错误 crc校验

 磁盘 网络 内存(ECC错误)

6.系统异常

时钟源 ntp server

memcache

7.热点迅速迁移

8.软件缺陷

9.误操作

[展开全文]

授课教师

云生态下的创新人才工场
阿里云开发者社区全面升级
一站式体验,助力云上开发!
进入新社区

相关课程

查看更多 >

本课程相关云产品