这是我参与「第三届青训营-后端场」笔记创作活动的第4篇笔记。
性能优化的基本问题
性能优化是什么?
提升软件系统处理能力,减少不必要消耗,充分发掘计算机算力
为什么要做性能优化?
提高用户体验 资源高效利用:降低成本,提高效率——很小的优化乘上海量机器会显著提升性能提升和节约成本
性能优化的层面
graph TD
业务代码
SDK
基础库
语言运行时
OS
业务层优化
针对特定场景,具体问题,具体分析 容易获得较大性能收益
语言运行时优化
解决更通用的性能问题 考虑更多场景 Tradeoffs
数据驱动
自动化性能分析工具 —— pprof 依靠数据而非猜测 首先优化最大瓶颈
自动内存管理
动态内存:
- 程序在运行时根据需求动态分配的内存: malloc()
自动内存管理(GC):由程序语言的运行时系统管理动态内存
- 避免手动内存管理,专注于实现业务逻辑
- 保证内存使用的正确性和安全性: double-free problem, use-after-free problem
三个任务:
- 为新对象分配空间
- 找到存活对象
- 回收死亡对象的内存空间
自动内存管理-相关概念
-
Mutator: 业务线程,分配新对象,修改对象指向关系
-
Collector: GC 线程,找到存活对象,回收死亡对象的内存空间
-
Serial GC: 只有一个 collector
-
Parallel GC: 并行 GC,支持多个 collectors 同时回收的 GC 算法
-
Concurrent GC: 并发 GC,支持 mutator(s) 和 collector(s) 同时执行的 GC 算法
评价GC算法
安全性(safty):不能回收存活对象——基本要求
吞吐率(Throuthput):1-(GC时间/程序执行总时间)——花在GC上的时间
暂停时间(Pause time):stop the world(STW)——业务是否感知
内存开销(Space overhead)——GC元数据开销
不同的GC策略
追踪垃圾回收
- 对象被回收的条件:指针指向关系不可达的对象
- 标记根对象
- 静态变量、全局变量、常量、线程栈等
- 标记:找到可达对象
- 求指针指向关系的传递闭包:从根对象出发,找到所有可达对象
- 清理:所有不可达对象
- 将存活对象复制到另外的内存空间(Copying GC)
- 将死亡对象的内存标记为句分配Mark-sweep GC)
- 移动并整理存活对象(Mark-compact GC)
根据对象的生命周期,使用不同的标记和清理策略
分代GC(Generational GC)
- 分代假说(Generational hypothesis)):most objects die young
- Intuition:很多对象在分配出来后很快就不再使用了
- 每个对象都有年龄:经历过GC的次数
- 目的:针对年轻和老年的对象,制定不同的GC策略,降低整体内存管理的开销
- 不同年龄的对象处于heap的不同区域
- 年轻代(Young generation)
- 常规的对象分配
- 由于存活对象很少,可以采用copying collection
- GC吞吐率很高
- 老年代(Old generation)
- 对象趋向于一直活着,反复复制开销较大
- 可以采用mark-sweep collection
引用计数
-
每个对象都有一个与之关联的引用数目
-
对象存活的条件:当且仅当引用数大于0
-
优点
- 内存管理的操作被平滩到程序执行过程中
- 内存管理不需要了解runtime的实现细节:C++智能指针(smart pointer)
-
缺点
- 维护引用计数开销大,因为对象可能会被多线程访问,对引用计数的修改需要原子操作保证原子性和可见性
- 无法回收环形数据结构
- 内存开销:每个对象都引入的额外内存空间存储引用数目
- 虽然引用计数的操作被平摊到程序运行过程中,但是回收大的数据结构依然可能引发暂停