这是我参与「第三届青训营 -后端场」笔记创作活动的的第2篇笔记
1、优化
什么是性能优化
- 提升软件系统处理能力,减少不必要的消耗,充分发掘计算机算力
为什么性能优化
- 用户体验
- 资源高效利用、降低成本、提高效率
性能优化与软件质量
- 软件质量至关重要
- 保证接口稳定的前提下进行具体实现
- 测试用例:覆盖尽可能多的场景,方便回归
- 文档:做了什么,没做什么,能达到怎么样的效果
- 隔离:通过选项控制是否开启优化
- 可观测:必要的日志输出
内存管理优化
编译器优化
2、背景
自动内存管理
-
动态内存
- 程序在运行时根据需求动态分配的内存:malloc()
-
自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存
- 避免手动内存管理,专注于实现业务逻辑
- 保证内存使用的正确性和安全性
-
三个任务
- 为新对象分配空间
- 找到存活的对象
- 回收死亡对象
-
相关概念
-
Mutator
- 业务线程,分配新对象,修改对象指向关系
-
Collector
- GC线程,找到存活对象,回收死亡对象的内存空间
-
Serial GC
- 只有一个collector
- 会有暂停所有线程停下来等回收结束后继续执行
-
Parallel GC
- 支持多个collectors同时回收的GC算法
- 多个线程去回收,虽然会暂停业务线程,但效率提高
-
Concurrent GC
- Mutator(s) 和Collector(s)可以同时执行
- 暂停时候会有一个去回收,不影响线程的正常执行
- 必须感知到对象指向关系的改变
-
评价GC算法
-
安全性
- 不能回收存活的对象
-
吞吐率
- 1 - GC时间/程序执行总时间
-
暂停时间
- 业务是否感知
-
内存开销
- GC元数据开销
追踪垃圾回收
-
对象被回收的条件
- 指针指向关系不可达的对象
-
三步骤
-
标记根对象
- 静态变量、全局变量、常量、线程等
-
标记:找到可达对象
- 求指针指向关系的传递闭包:从根对象出发,找到所有可达对象
-
清理所有不可到达对象
- 将存活对象复制到另外的内存空间(Copying GC)
- 将死亡对象的内存标记为可分配(Mark-sweep GC)
- 移动并整理存活对象(Mark-compact GC)
-
根据对象的生命周期,使用不同的标记和清理策略
-
分代GC
-
每个对象都有年龄:经过GC的次数
-
针对不同年龄的对象制定不同的GC策略
-
不同年龄的对象处在heap的不同区域
年轻代
-
常规对象的分配
-
由于存活对象很少,可以采用copying collection
-
GC吞吐率很高
老年代
- 对象趋于一直活着,反复复制开销大
- 采用mark-sweep collection
引用计数
-
每个对象都有一个与之关联的引用数目
-
对象存活条件,当且仅当引用数大于0
-
优点
- 内存管理的操作被平摊到程序执行过程中
- 内存管理不需要了解runtime的细节实现
-
缺点
- 维护引用计数的开销较大,通过原子操作保证对引用计数操作的原子性和可见性
- 无法回收环形数据结构
- 内存开销,每个对象都引入的额外内存空间存储引用数目
- 回收内存时依然可能引发暂停
3、Go内存管理机制
Go内存分配--分块
- 目标:为对象在heap上分配内存
- 提前将内存分块
- 对象分配:根据对象大小,选择合适的块返回
内存管理优化
- 小对象占比高
- 对象分配是非常高频的操作:每秒分配GB级别的内存
优化方案
Balanced GC
- 指针碰撞
- 三个指针维护
- 将多个小对象的分配合并成一次大对象的分配
4、编译器和静态分析
编译器的结构
-
重要的系统软件
- 识别符合语法和非法的程序
- 生成正确且高效的代码
-
分析部分(前端)
-
综合部分(后端)
静态分析
- 静态分析:不执行程序代码, 推导程序行为,分析程序的性质
- 控制流:程序执行的流程
- 数据流:数据在控制流上的传递
过程内和过程间分析
-
过程内分析
- 仅在过程内部分析
-
过程间分析
- 考虑过程调用时参数传递和返回值的数据流和控制流
5、Go编译器优化
为什么要做编译器优化
- 用户无感知,重新编译即可获得性能效益
- 通用性优化
现状
- 采用的优化少
- 编译时间较短,没有进行比较复杂的代码分析和优化
编译优化思路
- 场景:面向后端长期执行任务
- tradeoff:用编译时间换取更高效的机器码
Beast mode
-
函数内联
-
GO函数内联受到的限制比较多
- 语言特训
- 内联策略十分保守
-
调整函数内联的策略,使更多函数被内联
- 降低函数调用的开销
- 增加了其他优化的机会:逃逸分析
-
开销
- Go镜像增加 ~10%
- 编译时间增加
-
-
逃逸分析
-
函数内联拓展了函数边界,更多对象不逃逸
-
优化
- 未逃逸的对象可以在栈上分配
- 对象在栈上分配和回收很快:移动sp
- 减少在heap上的分配,降低GC负担
-
函数内联
-
将被调用函数的函数体的副本替换到调用位置上,同时重写代码以反映参数的绑定
-
优点
- 消除函数调用开销,例如传递参数、保存寄存器等
- 将过程间分析转化为过程内分析,帮助其他优化,例如逃逸分析
-
缺点
- 函数体变大,对icche不友好
- 编译生成的GO镜像变大
-
函数内联大多数情况下是正向优化
逃逸分析
-
分析代码中指针的动态作用域:指针在何处可以被访问
-
大致思路
-
从对象分配处出发,沿着控制流,观察对象的数据流
-
若发现指针p在当前作用域s:
- 作为参数传递给其他函数
- 传递给全局变量
- 传递给其他的goroutine
- 传递给已逃逸的指针指向的对象
-
则指针p指向的对象逃逸出s,反之则没有
-