高性能Go语言发行版优化与落地实践|青训营笔记

这是我参与「第三届青训营 -后端场」笔记创作活动的的第4篇笔记

• 自动内存管理
  • 自动内存管理(垃圾回收)：由程序语言的运行时系统管理动态内存
    • 动态内存：程序在运行时根据需求动态分配的内存：malloc()
    • 避免手动内存管理，专注于实现业务逻辑
    • 保证内存使用的正确性和安全性：double-free problem,use-after-free problem
    • 三个任务
      • 为新对象分配空间
      • 找到存活对象
      • 回收死亡对象的内存空间
    • 相关概念
      • Mutator：业务线程，分配新对象，修改对象指向关系
      • Collector：GC线程，找到存活对象，回收死亡对象的内存空间
      • Serial GC：只有一个collector
      • Parallel GC：支持多个collectors同时回收的GC算法
      • Concurrent GC：mutators和collectors可以同时执行
        • 挑战：Collectors必须感知对象指向关系的改变
  • 追踪垃圾回收
    • 对象被回收的条件：指针指向关系不可达的对象
    • 步骤：
      • 标记根对象
        • 静态变量、全局变量、常量、线程栈等
      • 标记：找到可达对象
        • 求指针指向关系的传递闭包：从根对象出发，找到所有可达对象
      • 清理：所有不可达对象
        • Copying GC将存活对象复制到另外的内存空间
        • Mark-sweep GC将死亡对象的内存标记为"可分配"
        • Mark-compact GC移动并整理存活对象
      • 根据对象的生命周期，使用不同的标记和清理策略
  • Generational GC分代GC
    • 分代假说：most objects die young
    • 很多对象在分配后很快就不再使用了
    • 对象的年龄：经历过GC的次数
    • 目的：对年轻和老年对象，指定不同的GC策略，降低整体内存管理开销
    • 不同年龄的对象处于heap的不同区域
      • 年轻代
        • 常规对象分配
        • 由于存活对象很少，可以采用copying collection
        • GC吞吐率很高
      • 老年代
        • 对象趋向于一直活着，反复复制开销较大
        • 可以采用mark-sweep collection
  • 引用计数垃圾回收
    • 每个对象都有一个与之关联的引用数目
    • 对象存活的条件：当且仅当引用数大于0
    • 优点
      • 内存管理的操作被平摊到程序执行过程中
      • 内存管理不需要了解runtime的实现细节:c++智能指针
    • 缺点
      • 维护引用计数的开销较大：通过原子操作保证对引用计数操作的原子性和可见性
      • 无法回收环形数据结构
      • 内存开销：每个对象都引入额外内存空间存储引用数目
      • 回收内存时依然可能引发暂停
• Go内存管理及优化
  • Go内存分配
    • 分块
      • 目标：为对象在heap上分配内存
      • 提前将内存分块
        • 调用系统调用mmap()向OS申请一大块内存，例如4MB
        • 先将内存划分为大块，例如8KB，称作mspan
        • 再将大块继续划分为特定大小的小块，用于对象分配
        • noscan mspan分配不包含指针的对象——GC不需要扫描
        • scan mspan分配包含指针的对象——GC需要扫描
      • 对象分配：根据对象的大小，选择最合适的块返回
    • 缓存
      • 借鉴TCMalloc:thread caching
      • 每个p包含一个mcache用于快速分配，用于为绑定于p上的g分配对象
      • mcache管理一组mspan
      • 当mcache中的mspan分配完毕，向mcentral申请带有未分配块的mspan
      • 当mspan中没有分配的对象，msapn会被缓存在mcentral中，而不是立刻释放并归还给OS
  • Go内存管理优化
    • 对象分配是非常高频的操作：每秒分配GB级别的内存
    • 小对象占比较高
    • Go内存分配比较耗时
      • 分配路径长： g->m->p->mcache->mspan->memory block->return pointer
      • pprof:对象分配函数是最频繁调用的函数之一
  • 字节跳动优化方案：Balanced GC
    • 每个g都绑定一大块内存1KB，称为goroutine allocation buffer(GAB)
    • GAB用于noscan类型的小对象分配:<128B
    • 使用三个指针维护GAB:base,end,top
    • Bump pointer（指针碰撞）风格对象分配
      • 无须和其他分配请求互斥
      • 分配动作简单高效
    • GAB对于Go内存管理来说是个大对象
    • 本质：将多个小对象的分配合并成一次大对象的分配
    • 问题：GAB的对象分配方式会导致内存被延迟释放
    • 方案：移动GAB中存活对象
      • 当GAB总大小超过一定阈值时，将GAB中存活对象复制到另外分配的GAB中
      • 原先的GAB可以释放，避免内存泄漏
      • 本质:用Copying GC算法管理小对象
• 编译器和静态分析
  • 编译器结构
    • 重要的系统软件
      • 识别符合语法和非法的程序
      • 生成正确且高效的代码
    • 分析部分
      • 词法分析，生成词素
      • 语法分析，生成语法树
      • 语义分析，收集类型信息，进行语义检查
      • 中间代码生成，生成intermediate representation
    • 综合部分
      • 代码优化，机器无关优化，生成优化后的IR
      • 代码生成，生成目标代码
  • 静态分析
    • 不执行程序代码，推导程序的行为，分析程序的性质
    • 控制流Control flow：程序执行的流程
    • 数据流Data flow：数据在控制流上的传递
    • 通过分析控制流和数据流，可以知道更多关于程序的性质
    • 根据这些性质优化代码
  • 过程内分析和过程间分析
    • 过程内分析
      • 仅在函数内部进行分析
    • 过程间分析
      • 考虑函数调用时参数传递和返回值的数据流及控制流
• Go编译器优化
  • 函数内联
    • 内联：将被调用函数的函数体的副本替换到调用位置上，同时重写代码以反映参数的绑定
    • 优点
      • 消除函数调用开销，例如传递参数、保存寄存器等
      • 将过程间分析转化为过程内分析，帮助其他优化，例如逃逸分析
    • 缺点
      • 函数体变大，instrution cache不友好
      • 编译生成的Go镜像变大
    • 函数内联在大多数情况下是正向优化
    • Beast Mode
      • Go函数内联受到的限制较多
        • 语言特性，例如interface,defer等，限制了函数内联
        • 内联策略非常保守
      • Beast Mode：调整函数内联策略，使更多函数被内联
        • 降低函数调用的开销
        • 增加了其他优化的机会：逃逸分析
      • 开销
        • Go镜像增加~10%
        • 编译时间增加
  • 逃逸分析
    • 分析代码中指针的动态作用域：指针在何处可以被访问
    • 大致思路
      • 从对象分配处出发，沿着控制流，观察对象的数据流
      • 若发现指针p在当前作用域s
        • 作为参数传递给其他函数
        • 传递给全局变量
        • 传递给其他的goroutine
        • 传递给已逃逸的指针指向的对象
      • 则指针p指向的对象逃逸出s，反之则没有逃逸出s
    • Beast Mode:函数内联拓展了函数边界，更多对象不逃逸
    • 优化：未逃逸的对象可以在栈上分配
      • 对象在栈上分配和回收很快：移动sp
      • 减少在heap上分配，降低GC负担