获得徽章 1
- 8月19日打卡,今日阅读《一文搞懂 K8s 准入控制(Admission Controller)》,本文介绍了本篇主要介绍了 Kubernetes 中的 Admission Controller ,默认情况下有一些已经以插件形式与 kube-apiserver 编译到了一起,另外我们也可以通过自己编写动态准入控制器来完成相关的需求。
当然,目前在 K8s 生态中已经有很多现成的工具可以帮我们完成对应的这些事情了,很多情况下不需要再自行开发对应的服务了展开评论点赞 - 8月17日打卡,今日阅读《5小时推开Spark的大门——02.搭建开发环境。》本文介绍了:Spark是基于Scala语言编写的,需要运行在JVM上,运行环境Java7以上,本文使用Java8,Centos7。Spark-Shell是一种学习API的简单方式,能够交互式的分析数据。能够把分布在集群上的数据加载到内存节点中,使分布式处理可以秒级完成。
快速实时的查询、计算、分析一般都在Shell中完成。
所以要学习Spark程序开发,建议先学习Spark-Shell交互式学习,加深对Spark程序开发的理解。
Spark提供了Python Shell和Scala Shell两种,本套课程使用Scala。展开评论点赞 - 8月14日打卡,今日阅读:《抖音 Android 性能优化系列:新一代全能型性能分析工具 Rhea》本文介绍了:,抖音最早也是用 Systrace 作为主要的分析工具,在优化前期也发挥了比较大的作用。随着抖音的性能优化来到了深水区,我们需要发现并解决更细粒度、更多维度的性能问题,我们会关注几毫秒的耗时,关注线上一些低端机用户遇到的锁阻塞和 IO 等待问题。而市面上这些主流的性能分析工具因其使用的局限性和较大的性能损耗,已经无法满足抖音性能优化的需求。为了能够百尺竿头更进一步,我们需要开发更加灵活、精细化以及多元的信息和工具来辅助我们进行高效的优化工作。展开评论点赞
- 8月11日打卡,今日阅读《Apache Pulsar 技术系列 - Pulsar事务实现原理》本文介绍了:Apache Pulsar 是一个多租户、高性能的服务间消息传输解决方案,支持多租户、低延时、读写分离、跨地域复制、快速扩容、灵活容错等特性。腾讯云MQ Oteam Pulsar工作组对 Pulsar 做了深入调研以及大量的性能和稳定性方面优化,目前已经在TDBank、腾讯云TDMQ落地上线在事务消息未出现前,
Pulsar中支持的最高等级的消息传递保证,是通过Broker的消息去重机制,来保证Producer在单个分区上的消息只精确保存一次。当Producer发送消息失败后,即使重试发送消息,Broker也能确保消息只被持久化一次。但在Partitioned Topic的场景下,Producer没有办法保证多个分区的消息原子性。展开评论点赞 - 8月6日打卡,今日阅读《K8s 长什么样子,一文道清它的整体架构》本文介绍了:Kubernetes(单词太长,后面用 K8s 代替 )是一个基于容器技术的分布式架构方案,它源自Google内部大规模集群管理系统——Borg,自2015年开源后得到开源社群的全力支援,IBM、惠普、微软、RedHat等业界巨头纷纷加入,成为后来的 CNCF 组织(Cloud Native Computing Foundation,云原生计算基金会)首个毕业的项目。展开评论点赞
- 8月2日打卡,今日阅读《分布式系列第一弹:分布式一致性!》本文介绍了:互联网时代和环境下,为了快速需求响应和提高系统吞吐,往往进行微服务化改造,将复杂系统和数据进行拆分;这时候的一致性指分布式服务化系统之间的弱一致性,包括应用系统一致性和数据一致性;评论点赞
- 8月1日打卡,今日阅读《字节跳动10万节点HDFS集群多机房架构演进之路》:本文介绍了HDFS 全称是 Hadoop Distributed File System,其本身是 Apache Hadoop 项目的一个模块,作为大数据存储的基石提供高吞吐的海量数据存储能力。自从 2006 年 4 月份发布以来,HDFS 目前依然有着非常广泛的应用,以字节跳动为例,随着公司业务的高速发展,目前 HDFS 服务的规模已经到达“双 10”的级别。并字节跳动 HDFS 的多机房架构在业界中是有自己独特的路线,这个中原因主要还是公司业务高速发展和机房建设方向在业界中也是独树一帜的,这些因素驱动 HDFS 进行自己独特迭代演进,从结果来看是达到预期。展开评论点赞
- 7月30日打卡,今日阅读《一文讲清HBase存储结构》:本文介绍了Hbase 是一个分布式的、多版本、面向列的开源 KV 数据库。运行在 HDFS 的基础上,支持 PB 级别、百万列的数据存储。HRegion Server 就是一个机器节点,包含多个 HRegion ,但是这些 HRegion 不一定是来自于同一个 Table ,负责响应的是用户的 IO 请求,和 HDFS 进行交互,是服务器中的一个进程。HRegion 包含多个 HStore 。展开评论点赞
- 7月29日打卡,今日阅读《DolphinDB节点启动时的流计算自动订阅教程》:本文介绍了DolphinDB 内置的流数据框架支持流数据的发布、订阅、预处理、实时内存计算、复杂指标的滚动窗口计算等,是一个运行高效、使用便捷的流数据处理框架。主要根据一个金融交易实时 Level2 的股票快照数据流计算案例,结合业务逻辑处理代码详细讲述了节点启动时的流计算自动订阅部署步骤,以及在开发部署过程中的常用调试手段展开评论点赞