Hadoop组成

518 阅读1分钟

HDFS架构

NameNode

存储文件的元数据,例如文件名目录结构文件属性以及每个文件的块列表块所在的DataNode

DataNode

在本地文件系统存储文件块数据块数据的校验和

Secondary NameNode

对NameNode元数据备份(不顶替NameNode的工作)

YARN构架

资源调度

Node Manager

节点资源管理

  • 处理ResourceManager的命令
  • 处理ApplicationManager的命令
  • 管理节点资源

Resource Manager

负责整个集群资源的管理

  • 处理客户端请求
  • 监控NodeManager
  • 启动或监控ApplicationMaster
  • 资源分配与调度

ApplicationMaster

  • 数据切分
  • 申请资源分配任务
  • 任务监控容错

Container

  • 资源划分

MapReduce