HDFS架构
NameNode
存储文件的元数据,例如文件名、目录结构、文件属性以及每个文件的块列表和块所在的DataNode
DataNode
在本地文件系统存储文件块数据和块数据的校验和
Secondary NameNode
对NameNode元数据备份(不顶替NameNode的工作)
YARN构架
资源调度
Node Manager
节点资源管理
- 处理ResourceManager的命令
- 处理ApplicationManager的命令
- 管理节点资源
Resource Manager
负责整个集群资源的管理
- 处理客户端请求
- 监控NodeManager
- 启动或监控ApplicationMaster
- 资源分配与调度
ApplicationMaster
- 数据切分
- 申请资源分配任务
- 任务监控容错
Container
- 资源划分