首页
AI Coding
NEW
沸点
课程
直播
活动
AI刷题
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
分布式点滴
木鸟杂记
创建于2021-06-16
订阅专栏
分布式系统、存储相关;论文导读、开源项目、公开课
等 25 人订阅
共81篇文章
创建于2021-06-16
订阅专栏
默认顺序
默认顺序
最早发布
最新发布
GFS —— 取舍的艺术
GFS 是谷歌为其业务定制开发的,支持弹性伸缩,为海量数据而生的分布式大文件存储系统。它运行于通用廉价商用服务器集群上,具有自动容错功能,支持大量客户端的并发访问。
Python3 生成器(generator)概念浅析
某次面试问候选人:Python 中生成器是什么?答曰:有 yield 关键字的函数。而在我印象中此种函数返回的值是生成器,而函数本身不是。
Spark 系统的理论基石 —— RDD
RDD,学名可伸缩的分布式数据集。是一种对数据集形态的抽象,基于此抽象,使用者可以在集群中执行一系列计算,而不用将中间结果落盘。而这正是之前 MR 抽象的一个重要痛点,每一个步骤都需要落盘。
Bazel 构建 golang 项目
Bazel 是一款谷歌开源的非常优秀的构建系统,一款速度极快、可伸缩、跨语言并且可扩展的构建系统。使用 Bazel 构建 golang 项目,除了 Bazel 本身特性外,还需要了解针对 golang
Kafka —— 弥合日志系统和消息队列的鸿沟
Kafka 是日志处理和消息队列系统的集大成者。较低的延迟、极高的容量和吞吐,使其可以应用于在线服务和离线业务。为了兼顾性能和可扩展性,Kafka 做了一些看起来反直觉但是却很实用的设计。
MIT 6.824 Raft 实现细节备忘
但是在做的过程中,仍然遇到了大量令人纠结的细节,为了方便日后回顾,将这些细节梳理一下,记在此处。若能好巧对其他做此门课的人有些微启发,则又是快事一件了。
MIT 6.824 视频笔记六:Fault Tolerate Raft 1
本篇是第六节课笔记,是 Raft 论文讲解的第一部分,主要总结了容错的几种类型以及 Raft 中的 Leader 选举相关内容。
MIT 6.824 视频笔记五:Go Concurrency
MIT 今年终于主动在 Youtube 上放出了随堂视频资料,之前跟过一半这门课,今年打算刷一下视频,写写随堂笔记。该课程以分布式基础理论:容错、备份、一致性为脉络,以精选的工业级系统论文为主线。
MIT 6.824 视频笔记四:VM-FT
MIT 今年终于主动在 Youtube 上放出了随堂视频资料,之前跟过一半这门课,今年打算刷一下视频,写写随堂笔记。该课程以分布式基础理论:容错、备份、一致性为脉络,以精选的工业级系统论文为主线
MIT 6.824 视频笔记三:GFS
MIT 2020终于主动在 Youtube 上放出了随堂视频资料,之前跟过一半这门课,今年打算刷一下视频,写写随堂笔记。该课程以分布式基础理论:容错、备份、一致性为脉络,以精选的工业级系统论文为主线。
MIT 6.824 视频笔记二:RPC和线程
MIT 今年终于主动在 Youtube 上放出了随堂视频资料,之前跟过一半这门课,今年打算刷一下视频,写写随堂笔记。该课程以分布式基础理论:容错、备份、一致性为脉络,以精选的工业级系统论文为主线。
Amazon 针对小对象的分布式键值存储——Dynamo
Dynamo 是一个高可用的 KV 存储系统。为了保证高可用和高性能,Dynamo 采用了最终一致性模型,它对开发人员提供一种新型 API,使用了版本机制,并通过用户侧辅助解决冲突。
cmu15445 数据库系统实验一:buffer pool manager
cmu15445 是一门关于数据库管理系统(DBMS)设计与实现的经典公开课。该课程以 Database System Concepts 为教材,提供随堂讲义、笔记和视频,精心准备了几个互相勾连的实验
Facebook Delos 中的虚拟共识协议
本文整理自OSDI 2020 Virtual Consensus in Delos 论文演讲,探讨了分布式系统中控制面的存储系统,提出了一种基于分层抽象思想的分布式架构。
漫谈 LevelDB 数据结构(三):LRU 缓存( LRUCache)
本系列主要想分享 LevelDB 中用到的三个工程中常用的经典数据结构,包括 Skip List、 Bloom Filter 和 LRUCache。这是第三篇LRUCache。
分布式系统架构(一)—— Master-Workers 架构
分布式系统有很多经典的套路,也即设计模式。每个设计模式可以解决经典的一类问题,积累的多了,便可以稍加变化,进行取舍,设计出贴合需求的架构组织。
社交网络场景下大规模图存储实践——Facebook TAO
Facebook TAO[1] ,即 The Associations and Objects 的缩写,点和边是”图“中最基本的抽象,用来做 Facebook 图存储名字倒是恰如其分。
分布式系统是什么
在技术领域中,分布式系统越来越成为绕不过去的一个名词。原因在于,这个时代的数据尺度与单机存储、处理能力的不匹配。于是有两条路子:机器大型化和机器互联。
微软提出的无锁 B 族树 —— Bw-tree
Bw-tree 是 2013 年微软发表的相关论文提出的数据结构。考虑到多核机器和 SSD 日趋普及,结合两大存储引擎 B+-tree 和 LSM-tree 特点,提出了bwtree。
布谷鸟哈希和布谷鸟过滤器
哈希的本质是从一个较大空间映射到一个较小的空间,因此在插入数据足够多之后,根据鸽巢原理,一定会存在位置冲突。常见的哈希表会通过链表、开放地质探测等方式来处理冲突。
下一页