性能优化的基本问题
性能优化是什么?
提升软件系统处理能力,减少不必要的消耗,充分发掘计算机算力
为什么要做性能优化?
- 用户体验:带来用户体验的提升
- 资源高效利用:降低成本,提高效率--很小的优化乘以海量的机器会是显著的性能提升和成本节约
性能优化的层面
性能优化与软件质量
- 软件质量至关重要
- 在保证接口稳定的前提下改进具体方案
- 测试用例:覆盖尽可能多的场景,方便回归
- 文档:做了什么,没做什么,能达到怎么样的效果
- 隔离:通过选项控制是否开启优化
- 可观测:必要的日志输出
01. 自动内存管理
1.1自动内存管理基本概念
-
动态内存
- 程序在运行时根据需求动态分配内存:malloc()
-
自动内存管理(垃圾回收):由程序语言的运行时系统来管理动态内存
- 避免手动内存管理,专注于实现业务逻辑
- 保证内存使用的正确性和安全性:如duble-free problem,use-after-free problem两种问题
-
三个任务
- 为新对象分配空间
- 找到存活对象
- 回收死亡对象的内存空间
-
其他相关概念
-
Mutator:业务线程,分配新对象,修改对象指向关系
-
Collector:GC线程,找到存活对象,回收死亡对象的内存空间
-
Serial GC:只有一个collector
-
Parallel GC:支持多个collectors同时回收的GC算法
-
Concurrent GC:mutator(s)和collector(s)可以同时执行
Collectors必须感知对象指向关系的改变!
Concurrent GC的挑战
5. ##### 评价GC算法
markdown
复制代码
- 安全性(Safety):不能回收存活的对象 *基本要求*
- 吞吐率(Throughput):1-GC时间/程序执行总时间 *花在GC上的时间*
- 暂停时间(Pause time):stop the world(STW) *业务是否感知*
- 内存开销(Space overhead) ==GC元数据开销
1.2追踪垃圾回收
对象被回收的条件:指针指向关系不可达的对象
1.标记根对象
- 静态变量、全局变量、常量,线程栈
2.标记:找到可达对象
- 求指针指向关系的传递闭包:从根对象出发,找到所有可达对象
3.清理:所有不可达对象
- 将存活的对象复制到另外的内空间(Copying GC)
- 将死亡对象的内存标记为“可分配”(Mark-sweep GC)
- 移动并整理存活对象(Mark-compact GC)
根据对象的生命周期,使用不同的标记和清理策略
1.3 分代 GC(Generational GC)
- 分代假说(Generational hypothesis):most objects die young
- Intuition:很多对象在分配出来后很快就不再使用了
- 每个对象都有年龄:经历过GC的次数
- 目的:对年轻和老年的对象,制定不同的GC策略,降低整体内存管理的开销
- 不同年龄的对象处于heap的不同区域
年轻代(Young generation):
- 常规的对象分配
- 由于存活对象很少,可以采用copying collection
- GC吞吐率很高
-
老年代(Old generation)
- 对象趋向于一直活着,反复复制开销较大
- 可以采用mark-sweep collection
1.4 引用计数
-
每个对象都有一个与之关联的引用数目
-
对象存活的条件:当且仅当引用数大于0
-
优点:
- 内存管理的操作被平摊到程序执行过程中
- 内存管理不需要了解runtime的实现细节:C++智能指针(smart pointer)
-
缺点:
- 维护引用计数的开销较大:通过原子操作保证对引用计数操作的原子性和可见性
- 无法回收环形数据结构:weak reference
- 内存开销:每个对象都引入的额外内存空间存储引用数目
- 回收内存时依然可能引发暂停