引入:
性能优化是什么?
- 提升软件系统处理能力,减少不必要的消耗,充分发掘计算机算力
为什么要做性能优化?
用户体验:带来用户体验的提升
- 让刷抖音更丝滑
- 让双十一购物不再卡顿
资源高效利用:降低成本,提高效率
性能优化的层面
-
业务层优化
- 针对特定场景、具体问题、具体分析
- 容易获得较大性能收益
-
语言运行时优化
- 解决更通用的性能问题
- 考虑更多场景
- Tradeoffs
-
数据驱动
- 自动化性能分析工具
- 依靠数据而非猜测
- 首先优化最大瓶颈
性能优化与软件质量
- 软件质量至关重要
- 在保证接口稳定的个前提下改进具体实现
- 测试用例:尽可能覆盖全面
- 文档:做了什么,没做什么,能达到怎么样的效果
- 隔离:通过选项控制是否开启优化
- 可观测:必要的日志输出
自动内存管理
-
动态内存
- 程序在运行时根据需求动态分配的内存:malloc()
-
自动内存管理:有程序语言的运行时系统管理动态内存
- 避免手动内存管理,专注于实现业务逻辑
- 保证内存使用的正确性和安全性
-
三个任务
- 为新对象分配空间
- 找到存活对象
- 回收死亡对象的内存空间
此部分在C语言上可以得到充分体现,C语言需要自己手动malloc分配内存,当变量不再使用时,也需要自己free释放内存,这样的作法很容易导致忘记释放内存或者重复释放内存导致的内存占用越来越大或者程序报错
相关概念
- Mutator:业务线程,分配新对象,修改对象指向关系
- Collector:GC线程,找到存活对象,回收死亡对象的内存空间
- Serial GC:只有一个collector
- Parallel GC:支特条个collectors同时回收的GC算法
- Concurrent GC:mutator(s)和collector(s)可以同时执行
追踪垃圾回收
-
对象被回收的条件:指针指向关系不可达的对象
-
标记根对象
- 静态变量、全局变量、常量、线程栈等
-
标记:找到可达对象
- 求指针指向关系的传递闭包:从根对象出发,找到所有可达对象
-
清理:所有不可达对象
- 将存活对象复制到另外的内存空间(Copying GC)
- 将死亡对的内存标记为“可分配"(Mark-sweep GC)
- 移动并整理存活对象Mark-compact GC)
-
根据对象的生命周期,使用不同的标记和清理策略
分代GC
通过算法辨析年轻和老年的对象,指定不同的GC策略,降低整体内存管理的开销
Go内存管理及优化
内存分配——分块
-
目标:为对象在heap上分配内存
-
提前将内存分块
- 调用系统调用mmap0向OS申请一大块内存,例如4MB
- 先将内存划分成大块,例如8KB,称作mspan
- 再将大块继续划分成特定大小的小块,用于对象分配
- noscan mspan:分配不包含指针的对象——GC不需要扫描
- scan mspan:分配包含指针的对象——GC需要扫描
-
对象分配:根据对象的大小,选择最合适的块返回
内存分配——缓存
- TCMalloc:thread caching
- 每个p包含一个mcache用于快速分配,用于为绑定于p上的g分配对象
- mcache管理一组mspan
- 当mcache中的mspan分配完毕,向mcentral申请带有末分配块的mspan
- 当mspan中没有分配的对象,mspan会被缓存在ncentral中,而不是立刻释放并归还给OS
- 对象分配是非常高频的操作:每秒分配GB级别的内存
- 小对象占比比较高
- Go内存分配比较耗时,调用链长
Go编译器优化实践
函数内联
-
内联:将被调用函数的函数体(callee)的副本替换到调用位置(caller)上,同时重写代码以反映参数的绑定
-
优点
- 消除函数调用开销,例如传递参数、保存寄存器等
- 将过程间分析转化为过程内分析,帮助其他优化,例如逃逸分析
-
缺点
- 函数体变大
- 编译生成的Go镜像变大
-
此项大多数情况下时正向优化
使用测试工具发现,性能数据提升4.58X
逃逸分析
-
逃逸分析:分析代码中指针的动态作用域:指针在何处可以被访问
-
大致思路
-
从对象分配处出发,沿着控制流,观察对象的数据流
-
若发现指针p在当前作用域s:
- 作为参数传递给其他函数
- 传递给全局变量
- 传递给其他的goroutine
- 传递给已逃逸的指针指向的对象
-
则指针p指向的对象逃逸出s,反之则设有逃逸出s
-
-
Beast mode:函数内联拓展了函数边界,更多对象不逃逸
-
优化:未逃逸的对象可以在栈上分配
- 对象在栈上分配和回收很快:移动sp
- 减少在heap上的分配,降低GC负担