这篇文章将分为上下两篇， 上篇理论， 下篇源代码。将讲解一下checkpoint在spark和flink里面的实现方式， 以及大概为什么要这样实现， 这里只讨论实时系统，别的不包括在内。 对于一个实时处理系统来说， checkpoint是必不可少的，用做容错时恢复的依据。 ch…

读源码前思考的问题 Structured Streaming + Kafka 如何保障数据不丢？ Structured Streaming 没有用Kafka的消费者重平衡机制，如何分配消费者和part

《分布式系统理论进阶 - Paxos》介绍了一致性协议Paxos，今天我们来学习另外两个常见的一致性协议——Raft和Zab。通过与Paxos对比，了解Raft和Zab的核心思想、加深对一致性协议的认识。 Paxos偏向于理论、对如何应用到工程实践提及较少。理解的难度加上现实的…

Kafka是最初由Linkedin公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统，它的最大的特性就是可以实时的处理大量数据以满足各种需求场景：比如基于hadoop的批处理系统、低延迟的实时系统、s…

本文主要讲解 Kafka 是什么、Kafka 的架构包括工作流程和存储机制，以及生产者和消费者，最终大家会掌握 Kafka 中最重要的概念，分别是 broker、producer、consumer、consumer group、topic、partition、replica、l…

大家好，我是云祁。 有人说世界上有三个伟大的发明：火，轮子，以及 Kafka。 发展到现在，Apache Kafka 无疑是很成功的，Confluent 公司曾表示世界五百强中有三分之一的企业在使用