首页
沸点
课程
数据标注
HOT
AI Coding
更多
直播
活动
APP
插件
直播
活动
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
登录
注册
ROCK_杰哥
掘友等级
获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
2
文章 2
沸点 0
赞
2
返回
|
搜索文章
最新
热门
hadoop(13)--分布式集群搭建
首先思考一个问题:hadoop分布式集群的主要工作在什么地方?HDFS分布式文件存储的集群,分布式文件存储要保持文件的一致性,这个是一个重点,那么怎么搭建才能保持一致性呢,这个问题前辈们已经给出了解决
hadoop(12)--zookeeper集群搭建
这个也是一个考验对zookeeper理解的一个问题,完全没有必要背概念,我概念也记不住,zookeeper就是一个协调者,尤其是在分布式中。
hadoop(11)--Yarn资源调度源码浅析(有干货,检验是否做过Hadoop优化,以及是否看过源码)
这里写的很清楚,就是从配置文件中获取mapreduce.framework.name,配置文件中配置了这个是yarn,这个cluster就是yarn的RPC的客户端,通过cluster远程调用yarn的server的相关方法。hadoop中大量使用了RPC这也是分布式中必须要使…
hadoop(10)--MR运行模式以及Yarn的调度流程
首先开门见山,说明一下MR的l两种种运行模式 1,在本地运行模式 ①在windows中,intellij idea或者eclipse中直接运行,文件存储可以是本地也可以是HDFS ②在linux中,运
hadoop(9)--MapReduce入门WordCount
这个是我写的一个WordCount,要在windows(本地)运行需要修改很多东西,我已经修改了,不懂得朋友可以评论,我会收到通知,及时给你解答,这里就不在赘述,那么先看看在linux环境中,用hadoop命令运行的这种方式,这种方式不利于调试,入门嘛,先不管调试了,我们的目的…
hadoop(8)--下载数据源码解析(下)
在这里说声sorry,由于最近事情很杂,所以更新的有些慢,请读者们多担待下载数据中还有一句:FSDataInputStreaminput=fs.open(newPath("/jdk-8u161-lin
Elasticsearch安装与应用
1,下载Elasticsearchhttps://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.5.2.tar.gz2,上传
hadoop(6)--NameNode元数据管理(3)
今天分享的的是NameNode中edit日志文件怎么和fsimage合并的,又是什么时候进行合并的,谁负责合并的,好的,带着这几个问题来思考1,先来一张图说明合并过程在这个过程中很好的解释了edit日
hadoop(5)--NameNode元数据管理(2)
当edits log文件满了【64M】或者是间隔3600秒,也就是1个小时,(这两个参数都是可以配置的),就会进行合并,就是将edits log中的数据,追加到fsimage文件之后,【这里其实是产生了新的文件,暂时可以理解为追加】,并把edits log中的数据清除。 这样即…
hadoop(4)--NameNode元数据管理
对了,就爱带着问题去探索,NameNode是HDFS的一个组件,可以说一个进程,HDFS中共有三个组件NameNode,DataNode,SecondNameNode。这三个都是做什么的呢? 好了,今天就到这里,明天梳理NameNode为什么能支持高并发,响应快【这个问题是不是…
下一页
个人成就
文章被点赞
4
文章被阅读
2,632
掘力值
43
关注了
10
关注者
7
收藏集
0
关注标签
27
加入于
2018-03-23