首页
AI Coding
NEW
沸点
课程
直播
活动
AI刷题
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
李白的手机
掘友等级
程序猿
《JDFrame》《FastRetry》《UniHttp》作者
获得徽章 17
动态
文章
专栏
沸点
收藏集
关注
作品
赞
76
文章 52
沸点 24
赞
76
返回
|
搜索文章
赞
文章( 52 )
沸点( 24 )
分布式 | Raft 共识算法
候选者[Candidate]: 一个跟随者变成领导者的过度状态, 它需要去请求其他节点进行投票, 如果得到半数以上选票就会成为领导者. 日志ID 本地唯一标识每条操作日志的编号, 它是连续且单调递增` 的. 用于在分布式系统日志不一致时进行数据的恢复, 还有保证相同的日志序列通…
分布式 | Paxos 共识算法
是一种强一致性模型, 需要半数以上的读取或者写入成功才算操作成功. 1、一般来说, 分布式的一致性的解决方案都是通过状态机复制来解决, 比如每个操作就是一条日志, 而每个节点都有自己的操作日志, 而所谓的保证一致性就是保证节点间日志的一致性, 通过与其他节点进行日志的同步. 2…
分布式 | 拜占庭将军问题
纵所周知分布式系统存在各种的问题, 比如机器宕机、网络异常、消息丢失、消息乱序、数据错误、不可靠的TCP、存储数据丢失等故障行为 . 而著名的拜占庭将军问题则描述的了一个最困难的,也是最复杂的一种分布式故障场景, 因为不仅可能存在故障行为,还存在恶意行为. 拜占庭将军问题 讲的…
大数据平台搭建 | Hive
本质就是存储了Hdfs文件和表、数据库之间的映射关系(元数据), 然后提供了以SQL的方式去访问文件数据, 就跟访问表结构化数据一样. 它通过翻译SQL然后通过计算引擎去计算得到查询结果 元数据MetaStore: 就是Hdfs文件和表、数据库之间的映射关系数据. 默认存储在自…
大数据平台搭建 | Hadoop 集群搭建
NameNode: 管理命名空间、存储数据块映射信息(元数据)、 负责处理客户端对HDFS的访问. 处理提交的作业请求, 资源申请请求. 即是任务运行的容器又是Yarn对资源的抽象, 封装了某个节点上的多维度资源,如内存、CPU、磁盘、网络等. RM 为 AM 返回的资源便是用…
Kubernetes + Dashboard 集群搭建
6、开启机器上的某些端口、请参见这里 了解更多详细信息。 7、禁用swap分区。为了保证 kubelet 正常工作,你 必须 禁用交换分区 kubectl: k8s命令⾏⼯具,通过它去与k8s对话, 管理k8s的各种资源. Controller Manager : 应用集群管理…
Elasticsearch 7.10 + Kibana 集群搭建
下载解压elasticsearch7.10.2后, 解压到每台服务器的一个位置即可. 因为配置了ES的环境变量到~/.bash_profile 下所以可以直接使用elasticsearch命令. 当然也可以写该脚本的绝对路径即可.
Kafka 集群搭建
依赖zookeeper,自行安装. 或者见Zookeeper集群搭建 下载后, 解压到每台服务器的一个位置即可. 因为配置了kafka的环境变量到~/.bash_profile 下所以可以直接使用kafka-server-start.sh脚本. 当然也可以写该脚本的绝对路径即可.
Zookeeper 集群搭建
下载后, 解压到每台服务器的一个位置即可. 以下是haoop300节点的操作, 其他服务器同理,区别是是myid文件的内容不同即可. 因为配置了zk的环境变量到~/.bash_profile 下所以可以直接使用zkServer.sh脚本. 当然也可以写该脚本的绝对路径即可.
Airflow2.0.0 + Celery 集群搭建
编写DAG文件需要保证在集群每个节点都要同步,因为每个worker都是从本地进行读取执行的, 不像oozie那样上传到HDFS. scheduler仅仅是发送一条要执行哪个DAG下的哪个Task的命令到Queue Broker下, 然后worker再根据命令去指定指定的那个Ta…
下一页
个人成就
文章被点赞
678
文章被阅读
136,024
掘力值
4,505
关注了
14
关注者
197
收藏集
4
关注标签
17
加入于
2019-09-19