这是我参与「第五届青训营 」伴学笔记创作活动的第 7 天
概要
1. 优化
🐷 内存管理优化
🐷 编译器优化
2. 背景
🐷 自动内存管理和 go 内存管理机制
🐷 编译器优化的基本问题和思路
3. 实践
🐷 字节跳动遇到的性能问题以及优化方案
一、追求极致性能
1. 性能优化是什么?
🐷 提高软件系统处理能力,减少不必要的消耗,充分发掘计算机算力
2. 为什么要性能优化?
🐷 提升用户体验
🐷 提高资源利用效率
3. 性能优化的层面
👨🏫 语言运行时(类似于 JVM)
4. 性能优化与软件质量
🐷 保证接口稳定的前提下改进具体实现
🐷 测试用例:覆盖尽可能多的场景,方便回归
🐷 文档:做了什么,没做什么,能达到怎样的效果
🐷 隔离:通过选项控制是否开启优化
🐷 可观测:必要的日志输出
5. 小结
🐷 性能优化的基本问题
🐷 性能优化的连两个层面
🐷 性能优化的可维护性
二、自动内存管理
1. 简介
(1)动态内存
🐷 程序在运行时根据需要动态分配的内存:malloc()
(2)自动内存管理(垃圾回收)
🐷 由程序语言的运行时系统回收动态内存
🙈 避免手动内存管理,专注于实现业务逻辑
🙈 保证内存使用的正确性和安全性:(常见问题:double-free problem, use-after-free problem)
(3)三个任务
🐷 为新对象分配空间
🐷 找到存活对象
🐷 回收死亡对象的内存空间
2. 相关概念
🐷 Mutator:业务线程,分配新对象,修改对象指向关系
🐷 Collector:GC线程,找到存活对象,回收死亡对象的内存空间
🐷 Serial GC:只有一个Collector
🐷 Parallel GC:支持多个Collectors 同时回收的GC算法
🐷 Concurrent GC:mutator(s) 和 collectors(s) 可以同时执行
🙈 Collectors 必须干燥对象指向关系的改变
🐷 评价 GC 算法
🙈 安全性(safety):基本要求:不能回收存活的对象
🙈 吞吐率(throughput):1 - GC时间 / 程序执行总时间 【花在GC上的时间】
🙈 暂停时间(Pasuse time):业务是否感知
🙈 内存开销(Space overhead):GC 元数据开销
🐷 追踪垃圾回收 (tracing garbage collection)
🐷 引用计数(Reference counting)
3. 追踪垃圾回收
(1)对象被回收的条件:指针指向关系不可达的对象
(2)标记根对象
🐷 静态变量、全局变量、常量、线程栈等
(3)标记:找到可达对象
🐷 求指针指向关系的传递闭包: 从根对象出发,找到所有可达对象
(4)清理: 所有不可达对象
🐷 将存活对象复制到另外的内存空间(Copying GC)
🐷 将死亡对象的内存标记为“可分配“(Mark-sweep GC)
🐷 移动并整理存活对象(Mark-compact GC)
👨🏫 根据对象的生命周期,使用不同的标记和清理策略
4. 分代GC(Generational GC)
🐷 分代假说(Generational hypothesis): most objects die young
🐷 Intuition: 很多对象在分配出来后很快就不再使用了
🐷 每个对象都有年龄: 经历过 GC 的次数
🐷 目的: 对年轻和老年的对象,制定不同的 GC 策略,降低整体内存管理的开销
🐷 不同年龄的对象处于 heap 的不同区域
🐷 年轻代(Young generation)
🙈 常规的对象分配
🙈 由于存活对象很少⭐,可以采用 copying collection
🙈 GC 吞吐率很高
🐷 老年代(Old generation)
🙈 对象趋向于一直活着,反复复制开销较大 ⭐
🙈 可以采用 mark-sweep collection
5. 引用计数
🐷 每个对象都有一个与之关联的 引用数目(即被多少个变量存地址)
🐷 对象存活的条件:当且仅当引用数大于 0
🐷 优点
🙈 内存管理的操作被平摊到程序执行过程中
🙈 内存管理不需要了解 runtime 的实现细节:c++ 智能指针(smart pointer)
🐷 缺点
🙈 维护引用计数的开销较大:通过原子操作保证对引用计数操作的原子性和可见性
🙈 无法回收环形数据结构:(解决办法) weak reference
🙈 内存开销:每个对象都引入的额外内存空间存储引用数目
🙈 回收内存时依然可能引发暂停
6. 总结
🐷 自动内存管理的背景和意义
🐷 概念和评价方法追踪垃圾回收
🐷 引用计数
🐷 分代 GC
🐷 学术界和工业界在一直在致力于解决自动内存管理技术的不足之处
🙈论文:PLDI'22 Low-Latency, High-Throughput Garbage Collection