这是我参与「第三届青训营 -后端场」笔记创作活动的第1篇笔记
性能优化
性能优化是什么:
提升软件系统处理能力,减少不必要的消耗,充分发掘计算机算力
为什么要做性能优化:
用户体验:带来用户体验的提升--刷抖音更丝滑,双十一购物不卡顿
资源高效利用:降低成本,提高效率
性能优化的层面
业务代码->SDK->基础库->语言运行时->OS
业务层优化:针对特定场景,具体问题具体分析,容易获得较大性能收益
语言运行时优化:解决更通用的性能问题,考虑更多场景,Tradeoffs(权衡取舍)
数据驱动:自动化性能分析工具--pprof,依靠数据而非猜测,首先优化最大瓶颈
性能优化与软件质量
软件质量至关重要
- 在保证接口稳定的前提下改进具体实现
- 测试用例:覆盖尽可能多的场景,方便回归
- 稳定:做了什么,没做什么,能达到怎样的效果
- 隔离:通过选项控制是否开启优化
- 可观测:必要的日志输出
自动内存管理
自动内存管理
动态内存:程序在运行时根据需求动态分配的内存:malloc
自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存
避免手动内存管理,关注实现业务逻辑
保证内存的正确性和安全性
三个任务
- 为新对象非配空间
- 找到存货对象
- 回收死亡对象的内存空间
自动内存管理相关概念
- Mutator:业务线程,分配新对象,修改对象指向关系
- Collector:GC线程,找到存活对象,回收死亡对象的内存空间
- Serial GC:只有一个collector
- Parallel GC:支持多个collectors同时回收的GC算法
- Concurrent GC:mutator(s)和collector(s)可以同时执行,Colloctor必须感知对象指向关系的改变
评价GC算法
- 安全性:不能回收存活的对象(基本要求)
- 吞吐量:1-(GC时间)/(程序执行总时间),即1-花在GC上的时间的比例
- 暂停时间:STW(stop the world),业务是否感知
- 内存开销:GC元数据开销
追踪垃圾回收
对象被回收的条件:指针指向关系不可达
过程:标记根对象(静态变量,全局变量,常量,线程栈等)->标记可达对象(求指针指向关系的传递闭包:从跟对象出发,找到所有可达对象)->清理不可达对象(将存活对象复制到另外的内存空间,将死亡对象的内存标记为可分配,移动并整理存活对象)
根据对象的生命周期,使用不同的标记和清理策略
分代GC(Generational GC)
每个对象都有年龄:经理GC的次数
目的:对年轻和年老的对象,制定不同的GC策略,降低整体内存管理的开销,将不同年龄段对象置于heap的不同区域
年轻代:
- 常规的对象分配
- 由于存活的对象很少,可以采用copying collection
- GC吞吐率高 老年代:
- 对象趋于一直活着,反复复制开销较大
- 可以采用mark-sweep collection
引用计数
每个对象都由一个与之关联的引用计数
对象存活的条件:当且仅当引用数大于0
优点:
- 内存管理的操作被平摊到程序执行过程中
- 内存管理不需要了解runtime的实现细节 缺点:
- 维护引用计数的开销较大:通过原子操作保证对引用计数的原子性和可见性。
- 无法回收环形数据结构。
- 内存开销。
- 回收内存时依然可能引发暂停。
Go内存管理及优化
Go内存分配--分块
目标:为对象在heap上分配内存
提前将内存分块:
- 调用系统调用mmap()向OS申请一大块内存,例如4MB
- 先将内存划分成大块,例如8KB,称为mspan
- 再将大块继续划分成特定大小的小块,用于对象分配
- noscan mspan:分配不包含指针的对象--GC不需要扫描
- scan mspan:分配包含指针的对象--GC需要扫描
对象分配:根据对象的大小,选择最合适的块返回
Go内存分配--缓存
- TCMalloc:thread caching,有减少内存碎片,适用于多核,更好的并行性支持等特性
- 每个p上包含一个mcache用于快速分配,用于为绑定于p上的g分配对象
- mcache管理一组mspan
- 当mcache中的mspan分配完毕,向mcentral申请带有未分配块的mspan
- 当mspan中没有分配的对象,mspan会被缓存在mcentral中,而不是立刻释放并归还给操作系统
Go内存管理优化
- 对象分配是非常高频的操作:每秒分配GB级别的内存
- 小对象占比较高(实际线上应用测试发现)
- Go内存分配比较耗时
- 分配路径长:g->m->p->mcache->mspan->memory block->return pointer
- pprof:测试发现,对象分配的函数是最频繁调用的函数之一
编译器和静态分析
编译器的结构
编译器是重要的系统软件,用于识别符合语法和非法的程序,并且升正确且高效的代码。
分析部分(前端):
- 词法分析,生成词素(源程序中的一个字符序列,它和某个词法单元的模式匹配,并被词法单元识别为该词法单元的一个实例。)
- 语法分析:生成语法树
- 语义分析:收集类型信息,进行语义检查
- 中间代码生成:生成intermediate representation(IR)
综合部分(后端)
- 代码优化,机器无关优化,生成优化后的IR
- 代码生成,生成目标代码
静态分析
静态分析:不执行程序代码,推导程序的行为,分析程序的性质
控制流:程序执行的流程
数据流:数据在控制流上的传递
过程内分析:仅在函数内部分析
过程间分析:考虑调用是参数传递和返回值的数据流和控制流
Go编译器优化
函数内联
内联:将被调用函数的函数体的副本替换到调用位置上,同时重写代码以反应参数的绑定。
优点:消除函数调用开销,例如传递参数,保存寄存器等,同时将过程间分析转化为过程内分析,帮助其他优化,例如逃逸分析
缺点:函数体变大,编译生成的Go镜像更大
函数内联大多数情况下是正向优化
内联策略:根据调用和被调函数的规模决定是否内联
Beast Mode
调整函数内联的策略,使更多函数被内联
- 降低函数调用的开销
- 增加了其他优化的机会:逃逸分析
4.2 逃逸分析
逃逸分析:分析代码中指针的动态作用域:指针在何处可以被访问
大致思路:
- 从对象分配处触发,沿着控制流,观察对象的数据流
- 若发现指针p在当前作用域s:
- 作为参数传递给其他函数
- 传递给全局变量
- 传递给其他的goroutine
- 传递给已逃逸的指针指向的对象
- 则指针p指向的对象逃逸出s,反之则没有 未逃逸的对象可以在栈上分配,对象在栈上的分配和回收很快,减少了在heap上的分配,降低GC负担