这是我参与「第五届青训营 」伴学笔记创作活动的第 4 天
性能优化
性能优化的概念
提升软件系统处理能力,减少不必要的消耗,以充分发掘计算机的算力
性能优化的作用
提升用户体验
提高资源利用率,降本增效
性能优化的层面
业务层优化
针对特定场景,具体问题,具体分析
容易获得较大性能收益
语言运行时优化
解决更通用的性能问题
考虑更多场景
数据驱动
自动化性能分析工具-pprof
依靠数据进行优化,而不是靠猜测
首先优化最大瓶颈
性能优化与软件质量
需要保证软件的质量,软件质量是至关重要的
测试用例需要覆盖尽可能多的场景,方便回归(确认新的程序或代码更改未对现有功能产生影响)
文档:详细介绍做了什么,没做什么
隔离:通过选项控制是否开启优化
可观测:必要的日志输出
自动内存管理
背景
- 动态内存:程序在运行时根据需要动态分配内存
- 自动内存管理(垃圾回收)
避免手动内存管理,专注于实现业务逻辑
保证内存使用的正确性和安全性:double-free,use-after-free
概念
Mutator:业务线程,分配新对象,修改对象指向关系
Collector:GC线程,找到存活对象,回收死亡对象的内存空间
Serial GC:只有一个colloector
Parallel GC:支持多个colloector同时回收的GC算法
Concurrent GC:mutator(s)和collector(s)可以同时执行
评价GC算法
- 安全性:不能回收存活对象
- 吞吐率:消耗在GC上的时间
-
暂停时间:stop the world(STW)业务是否感知
STW指的是GC事件发生过程中,会产生应用程序的停顿。
- 内存开销:GC 元数据开销
参考书籍:THE GARBAGE COLLECTION HANDBOOK
追踪垃圾回收
对象被回收的条件:指针指向关系不可达的对象
- 标记根对象
静态变量、全局变量、常量、线程栈
- 标记:找到可达对象
从根对象出发,找到所有可达对象
- 清理:所有不可达对象
Copying GC:将存活对象复制到另外的内存空间
Mark-sweep GC:将死亡对象的内存标记为可分配,加入到free-list
Mark-compact GC:移动并整理存活对象
根据对象的生命周期来选择清理策略
分代GC(Generational GC)
对象年龄:经历过的GC次数
针对年轻和老年的对象制定不同的GC策略,降低整体内存管理的开销
年轻代
常规对象的分配
由于存活对象很少,可以采用copy collection
老年代
对象趋向于一直存活,反复复制开销较大
可以采用mark0sweep collection
引用计数
每个对象都有一个与之关联的引用数目
对象存活的条件:当且仅当引用数大于0
优点:
内存管理的操作被平摊到程序执行过程中
内存管理不需要了解runtime的实现细节:C++智能指针
缺点:
维护引用计数的开销较大:通过原子操作保证对引用计数操作的原子性和可见性
无法回收环形数据结构-weak reference
内存开销:每个对象都引入额外内存空间存储引用数目
回收内存时依然可能引发暂停(回收大数据结构)
Go内存管理及优化
内存分配-分块
- 目标:为对象在heap上分配内存
- 将内存分块
调用系统调用mmap()向OS申请一大块内存
先将内存划分成大块,称作mspan
再讲大块继续划分成特点大小的小块,用于对象分配
noscan mspan:分配不包含指针的对象-GC不需要扫描
scan mspan:分配包含指针的对象-GC需要扫描
- 对象分配:根据对象的大小,选择合适的块返回
内存分配-缓存
包含一个mcache用于快速分配,用于为绑定分配对象
而mcache管理一组mspan
当mcache中的mspan分配完毕,向mcentral申请带有未分配块的mspan
当mspan没有分配的对象,mspan会被缓存在mcentral中
内存管理优化
对象分配是非常高配的操作
分配时小对象占比高
Balanced GC:指针碰撞风格的内存分配
编译器和静态分析
编译器的结构
用于识别符合语法的程序,生成正确且高效的代码
分析部分(前端)
词法分析,生成词素(lexeme)
语法分析,生成语法树
语义分析,收集类型信息,进行语义检查
中间代码生成,生成intermediate representation(IR)
综合部分(后端)
代码优化,机器无关优化,生成优化后的IR
代码生成。生成目标代码
静态分析
静态分析:不执行代码,推导程序的行为,分析程序的性质
控制流(Control flow):程序执行的流程
数据流(Data flow):数据在控制流上的传递
通过对控制流和数据流的分析,即进行人工推导,发现可以优化的内容进行优化
过程内和过程间分析
过程内分析:仅在过程内部进行分析
过程间分析:考虑过程调用时参数传递和返回值的数据流和控制流
Go编译器优化
函数内联(Inlining)
将被调用函数的函数体(callee)的副本替换到调用位置(caller)上,同时重新写代码以反映参数的绑定
优点:
消除函数调用开销,例如传递参数、保存寄存器等
将过程间分析转化为过程内分析,帮助其他优化
缺点:
函数体变大,instruction cache不友好
编译生成的Go镜像变大
逃逸分析
分析代码中指针的动态作用域:指针在何处可以被访问
大致思路:
从对象分配处出发,沿着控制流,观察对象的数据流
若发现指针p在当前作用域s:
- 作为参数传递给其他函数
- 传递给全局变量
- 传递给其他goroutine
- 传递给已逃逸的指针指向的对象
Beast mode:函数内联扩展了函数边界,更多对象不逃逸
优化:未逃逸的对象可以在栈上分配
- 对象在栈上分配合回收很快:移动sp
- 减少在heap上的负担,减少GC负担