高性能Go语言发行版优化与性能实践|青训营笔记

这是我参与「第三届青训营 -后端场」笔记创作活动的的第4篇笔记

课前准备

导学链接

【Go 语言原理与实践 学习资料（下）】第三届字节跳动青训营 - 后端专场 - 掘金 (juejin.cn)

课程PPT

高性能 Go 语言发行版优化与落地实践.pptx - 飞书云文档 (feishu.cn)

性能优化

业务层优化

• 针对具体的场景进行分析优化
• 容易获得较大的性能收益

语言运行时优化

• 解决更通用的性能问题
• 考虑更多场景
• Tradeoffs

优化依据——数据驱动

• pprof——自动化性能分析工具
• 优化应首先解决最大瓶颈

性能优化与软件质量

• 软件质量至关重要
• 在保证接口稳定的前提下改进具体实现
• 测试用例：覆盖尽可能多的场景，方便回归
• 文档：做了什么，没做什么，能达到怎样的效果
• 隔离：通过选项控制是否开启优化
• 可观测：必要的日志输出

自动内存管理

背景及意义

动态内存：程序在运行时根据需求动态分配的内存

自动内存管理（垃圾回收）

• 避免手动实现内存管理，专注于实现业务逻辑
• 保证内存使用的正确性及安全性：double-free problem，use-after-free problem（常见问题）

三个任务

• 为新对象分配空间
• 找到存活对象
• 回收死亡对象的内存空间

相关概念及评价方法

相关概念

• Mutator：业务线程，分配新对象，修改对象指向关系
• Collector：GC线程，找到存活对象，回收死亡对象的内存空间
• Serial GC：只有一个collector的GC算法
• Parallel GC：支持多个collectors同时回收
• Concurrent GC：mutator(s)和collector(s)可以同时执行——collectors必须感知对象指向关系的改变

评价GC算法

• 安全性（safety）：不能回收存活的对象
• 吞吐率（throughput）：1 - GC时间/程序执行总时间
• 暂停时间(pause time)：业务是否感知
• 内存开销(space overhead)：GC元数据开销

追踪垃圾回收

对象被回收的条件：指针指向关系不可达的对象

追踪步骤

1. 标记根对象：静态变量、全局变量、常量、线程等
2. 标记可达对象：从根对象出发标记所有可达对象
3. 清理所有不可达对象：根据对象的生命周期使用不同的标记和清理策略

清理策略：

1. Copying GC：将存活对象复制到另外的存储空间，原空间释放
2. Mark-sweep GC：使用free-list管理清理后的空闲空间
3. Mark-compact GC：将存活对象存储空间合并整理

分代GC

分代假说（Cenerational hypothesis）：most objects die young

将不同年龄的对象放置于heap的不同区域，对年轻和年老的对象分别制定不同的GC策略，降低整体内存管理的开销

年轻代：

• 常规的对象分配
• 存活对象较少，可以使用Copying GC
• GC吞吐率高

老年代：对象趋向于一直存活，反复复制开销大，可以使用Mark-sweep GC

引用计数

每个对象都有一个与之关联的引用数目对象存活的条件——当且仅当引用数大于0

优点：

• 内存管理的操作被平摊到程序执行过程中
• 内存管理不需要了解runtime的实现细节：C++智能指针(smart pointer)

缺点：

• 维护引用计数的开销较大：通过原子操作保证对引用计数操作的原子性和可见性
• 无法回收环形数据结构—— 使用weak reference解决
• 内存开销：每个对象都引入的额外内存空间存储引用数目
• 回收内存时依然可能引发暂停

前沿进展

PLDI22 Low-Latency, High-Throughput Garbage Collection

Go内存管理及优化

Go内存分配

分块

1. 目标：为对象在heap上分配内存

2. 提前内存分块

   a. 操作系统调用mmap()向OS申请一大块内存，例如4MB

   b. 先将内存划分为大块，例如8KB，称为mspan

   • nosacn mspan：分配不含指针的对象，GC不需扫描

   • scan mspan：分配含指针对象，GC需扫描

   c. 再将大块划分为特定大小的小块用于内存分配

3. 对象分配：根据对象大小选择合适的块返回

缓存

1. 借鉴了TCMalloc
2. 每个p包含一个mcache用于快速分配，用于绑定g上的p分配对象
3. mcache管理一组mspan
4. mcache上的mspan分配完毕时，向mcentrol申请带有未分配块的mspan
5. mspan中没有分配对象，会先缓存在mcentrol中而非立即释放返回OS

Go内存管理优化

• 对象分配是非常高频的操作：每秒分配GB级别的内存
• 内存分配中小于80B的小对象占比比较高
• Go内存分配耗时高：g -> m -> p -> mcache -> mspan -> memory block -> return poiner
• pprof：对象分配函数为最频繁调用的函数之一

优化方案展示：Banlance GC

1. 每个g都绑定一个大内存（1KB），称为goroutine allocation buffer(GAB)

2. GAB用于noscan 类型的小对象分配（<128KB）

   

   • 使用三个指针维护：base、end、top
   • Bump poiner（碰撞指针）分配方式：无需与其他分配请求互斥、分配动作简单高效
   • 本质是将多个小对象的分配合并成一次大对象的分配

3. GAB问题：导致内存延迟释放——GAB中仅剩部分小对象存活时，有较大的内存无法释放

4. 解决方案：移动GAB中存活的对象

   • GAB大小超过一定阈值时，将GAB存活的对象复制到另外的GAB中，使原本的GAB释放
   • 本质为Copying GC管理小对象

编译器与静态分析

编译器结构

分析部分（前端 front end）

• 词法分析：生成词素 lexeme
• 语法分析：生成语法树
• 语义分析：收集类型信息，进行语义检查
• 中间代码生成：生成Intermediate Representation(机器无关)

综合部分（后端 back end）——本课程主要学习

• 代码优化：生成优化后的IR
• 代码生成：生成目标代码

静态分析

不执行程序代码，通过推导程序的行为分析程序性质

1. 控制流分析和数据流分析

   • Control flow：程序执行流程
   • Data flow：数据在控制流上的传递

2. 过程内分析和过程间分析

   • Intra-procedural analysis：仅在函数内部分析
   • Inter-procedural analysis：考虑函数调用时参数传递和返回值的控制流和数据流（比较复杂）

Go编译器优化

概述

函数内联

将被调用函数的函数体(callee)的副本替换到调用位置(caller)上，同时重写代码反映参数的绑定

优点：

• 消除函数调用开销，如传递参数、保存寄存器等
• 将过程间分析转换为过程内分析，帮助其他优化，例如逃逸分析

缺点：

• 函数体变大，instruction cache(icache)不友好
• 编译生成的Go镜像变大

函数内联大多数情况下为正向优化

内联策略：调用及被调用函数的规模、是否包含递归...

Beast Mode

Go编译器中函数内联受到的限制较多

• 语言特性，如interface、defer等限制了函数内联
• 内联策略保守

Beast Mode ：调整内联策略，使更多的函数被内联

• 降低函数调用的开销
• 增加其他优化的机会：逃逸分析
• 但Go镜像和编译时间也会增加

逃逸分析

分析代码中指针的动态作用域：指针在何处可以被访问

分析思路：

1. 从对象分配处出发，沿着控制流，观察对象的数据流

2. 若发现指针p在当前作用域s:

   • 作为参数传递给其他函数
   • 传递给全局变量
   • 传递给其他的goroutine
   • 传递给已逃逸的指针指向的对象

3. 则指针p指向的对象逃逸出s，反之则没有逃逸出s

Beast Mode：函数内联扩展了函数边界，更多对象不逃逸

优化效果：未逃逸的对象可以在栈上分配

• 对象在栈上分配和回收很快：移动sp
• 减少在heap上的分配，降低GC负担

Q&A

1. Mutator业务线程和Goroutine的关系？

   goroutine就可以看作一个Mutator线程

2. 循环引用解决

   weak reference

3. Go GC有stop word过程吗？

   • 扫描goroutine栈时扫描对应栈时会暂停对应栈
   • 清理时有短暂暂停

4. 同一个mspan中所有对象分配大小相同