高性能Go语言发行版优化与落地实践 | 青训营笔记

111 阅读7分钟

这是我参与「第三届青训营 -后端场」笔记创作活动的第1篇笔记

性能优化

性能优化是什么:
提升软件系统处理能力,减少不必要的消耗,充分发掘计算机算力

为什么要做性能优化:
用户体验:带来用户体验的提升--刷抖音更丝滑,双十一购物不卡顿
资源高效利用:降低成本,提高效率

性能优化的层面

业务代码->SDK->基础库->语言运行时->OS

业务层优化:针对特定场景,具体问题具体分析,容易获得较大性能收益

语言运行时优化:解决更通用的性能问题,考虑更多场景,Tradeoffs(权衡取舍)

数据驱动:自动化性能分析工具--pprof,依靠数据而非猜测,首先优化最大瓶颈

性能优化与软件质量

软件质量至关重要

  • 在保证接口稳定的前提下改进具体实现
  • 测试用例:覆盖尽可能多的场景,方便回归
  • 稳定:做了什么,没做什么,能达到怎样的效果
  • 隔离:通过选项控制是否开启优化
  • 可观测:必要的日志输出

自动内存管理

自动内存管理

动态内存:程序在运行时根据需求动态分配的内存:malloc

自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存
避免手动内存管理,关注实现业务逻辑
保证内存的正确性和安全性

三个任务

  1. 为新对象非配空间
  2. 找到存货对象
  3. 回收死亡对象的内存空间

自动内存管理相关概念

  • Mutator:业务线程,分配新对象,修改对象指向关系
  • Collector:GC线程,找到存活对象,回收死亡对象的内存空间
  • Serial GC:只有一个collector
  • Parallel GC:支持多个collectors同时回收的GC算法
  • Concurrent GC:mutator(s)和collector(s)可以同时执行,Colloctor必须感知对象指向关系的改变

评价GC算法

  • 安全性:不能回收存活的对象(基本要求)
  • 吞吐量:1-(GC时间)/(程序执行总时间),即1-花在GC上的时间的比例
  • 暂停时间:STW(stop the world),业务是否感知
  • 内存开销:GC元数据开销

追踪垃圾回收

image.png 对象被回收的条件:指针指向关系不可达

过程:标记根对象(静态变量,全局变量,常量,线程栈等)->标记可达对象(求指针指向关系的传递闭包:从跟对象出发,找到所有可达对象)->清理不可达对象(将存活对象复制到另外的内存空间,将死亡对象的内存标记为可分配,移动并整理存活对象)

根据对象的生命周期,使用不同的标记和清理策略

分代GC(Generational GC)

每个对象都有年龄:经理GC的次数
目的:对年轻和年老的对象,制定不同的GC策略,降低整体内存管理的开销,将不同年龄段对象置于heap的不同区域

年轻代:

  • 常规的对象分配
  • 由于存活的对象很少,可以采用copying collection
  • GC吞吐率高 老年代:
  • 对象趋于一直活着,反复复制开销较大
  • 可以采用mark-sweep collection

引用计数

每个对象都由一个与之关联的引用计数

对象存活的条件:当且仅当引用数大于0

优点:

  1. 内存管理的操作被平摊到程序执行过程中
  2. 内存管理不需要了解runtime的实现细节 缺点:
  3. 维护引用计数的开销较大:通过原子操作保证对引用计数的原子性和可见性。
  4. 无法回收环形数据结构。
  5. 内存开销。
  6. 回收内存时依然可能引发暂停。

Go内存管理及优化

Go内存分配--分块

目标:为对象在heap上分配内存

提前将内存分块:

  • 调用系统调用mmap()向OS申请一大块内存,例如4MB
  • 先将内存划分成大块,例如8KB,称为mspan
  • 再将大块继续划分成特定大小的小块,用于对象分配
  • noscan mspan:分配不包含指针的对象--GC不需要扫描
  • scan mspan:分配包含指针的对象--GC需要扫描 image.png

对象分配:根据对象的大小,选择最合适的块返回

Go内存分配--缓存

  • TCMalloc:thread caching,有减少内存碎片,适用于多核,更好的并行性支持等特性
  • 每个p上包含一个mcache用于快速分配,用于为绑定于p上的g分配对象
  • mcache管理一组mspan
  • 当mcache中的mspan分配完毕,向mcentral申请带有未分配块的mspan
  • 当mspan中没有分配的对象,mspan会被缓存在mcentral中,而不是立刻释放并归还给操作系统 image.png

Go内存管理优化

  • 对象分配是非常高频的操作:每秒分配GB级别的内存
  • 小对象占比较高(实际线上应用测试发现)
  • Go内存分配比较耗时
    • 分配路径长:g->m->p->mcache->mspan->memory block->return pointer
    • pprof:测试发现,对象分配的函数是最频繁调用的函数之一

编译器和静态分析

编译器的结构

编译器是重要的系统软件,用于识别符合语法和非法的程序,并且升正确且高效的代码。

分析部分(前端):

  • 词法分析,生成词素(源程序中的一个字符序列,它和某个词法单元的模式匹配,并被词法单元识别为该词法单元的一个实例。)
  • 语法分析:生成语法树
  • 语义分析:收集类型信息,进行语义检查
  • 中间代码生成:生成intermediate representation(IR)

综合部分(后端)

  • 代码优化,机器无关优化,生成优化后的IR
  • 代码生成,生成目标代码

静态分析

静态分析:不执行程序代码,推导程序的行为,分析程序的性质

控制流:程序执行的流程

数据流:数据在控制流上的传递

过程内分析:仅在函数内部分析

过程间分析:考虑调用是参数传递和返回值的数据流和控制流

Go编译器优化

函数内联

内联:将被调用函数的函数体的副本替换到调用位置上,同时重写代码以反应参数的绑定。

优点:消除函数调用开销,例如传递参数,保存寄存器等,同时将过程间分析转化为过程内分析,帮助其他优化,例如逃逸分析

缺点:函数体变大,编译生成的Go镜像更大

函数内联大多数情况下是正向优化

内联策略:根据调用和被调函数的规模决定是否内联

Beast Mode

调整函数内联的策略,使更多函数被内联

  • 降低函数调用的开销
  • 增加了其他优化的机会:逃逸分析

4.2 逃逸分析

逃逸分析:分析代码中指针的动态作用域:指针在何处可以被访问

大致思路:

  • 从对象分配处触发,沿着控制流,观察对象的数据流
  • 若发现指针p在当前作用域s:
    • 作为参数传递给其他函数
    • 传递给全局变量
    • 传递给其他的goroutine
    • 传递给已逃逸的指针指向的对象
  • 则指针p指向的对象逃逸出s,反之则没有 未逃逸的对象可以在栈上分配,对象在栈上的分配和回收很快,减少了在heap上的分配,降低GC负担