GO语言内存管理|青训营笔记

86 阅读6分钟

这是我参与「第五届青训营」伴学笔记创作活动的第5天。

一、性能优化

1、性能优化是什么?
提升软件系统的处理能力,减少不必要的消耗,充分发掘计算机算力。
2、为什么要做性能优化?
带来用户体验的提升;资源高效利用,降低成本,提高效率。

二、自动内存管理

1、动态内存:

  • 程序在运行时根据需求动态分配的内存:malloc()

2、自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存

  • 避免手动内存管理,专注于实现业务逻辑。
  • 保证内存使用的正确性和安全性:double-free problem,use-after-free problem。

3、三个任务

  • 为新对象分配空间
  • 找到存活对象
  • 回收死亡对象的内存空间

1、概念

Mutator:业务线程,分配新对象,修改对象指向关系。
Collector:GC线程,找到存活对象,回收死亡对象的内存空间。
Serial GC:只有一个collector。
Parallel GC:支持多个collectors同时回收的GC算法。
Concurrent GC:mutator(s)和collector(s)可以同时执行
Collectors必须感知对象指向关系的改变。

评价GC算法:

安全性:不能回收存活的对象 基本要求
吞吐率:1GC时间程序执行时间1-\dfrac{GC时间}{程序执行时间} 花在GC上的时间
暂停时间:stop the world(STW) 业务是否感知
内存开销:GC元数据开销

追踪垃圾回收
引用计数

2、追踪垃圾回收

  • 对象被回收的条件:指针指向关系不可达的对象。
  • 标记根对象
    静态变量、全局变量、常量、线程栈等。
  • 标记:找到可达对象。
    求指针指向关系的传递闭包:从跟对象出发,找到所有可达对象。
  • 清理:所有不可达对象。
    将存活对象复制到另外的内存空间(Copying GC)。
    将死亡对象的内存标记为“可分配”(Mark-sweep GC)。
    移动并整理存活对象(Mark-compact GC)。
  • 根据对象的生命周期,使用不同的标记和清理策略。

3、分代GC

  • 分代假说:most objects die young。
  • Intuition:很多对象在分配出来后很快就不再使用了。
  • 每个对象都有年龄:经历过GC的次数。
  • 目的:对年轻和老年的对象,制定不同的GC策略,降低整体内存管理的开销
  • 不同年龄的对象处于heap的不同区域。
  • 年轻代:

常规的对象分配。
由于存活对象很少,可以采用copying collection。
GC吞吐率高。

  • 老年代:

对象趋向于一直活着,反复复制开销较大
可以采用mark-sweep collection。

4、引用计数

  • 每个对象都有一个与之关联的引用数目。
  • 对象存活的条件:当且仅当引用数大于0。
  • 优点

内存管理的操作被平摊到程序执行过程中。 内存管理不需要了解runtime的实现细节;C++智能指针。

  • 缺点

维护引用计数的开销较大:通过原子操作保证对引用计数操作的原子性可见性
无法回收环形数据结构---weak reference。
内存开销:每个对象都引入的额外内存空间存储引用数目。
回收内存时依然可能引发暂停。

三、Go内存管理及优化

1、Go内存分配

分块

  • 目标:为对象在heap上分配内存。
  • 提前将内存分块。

调用系统调用mmap()向OS申请一大块内存,
先将内存划分为大块,
再将大块继续划分成特定大小的小块,用于对象分配,
noscan mspan:分配不包含指针的对象---GC不需要扫描,
scan mspan:分配包含指针的对象---GC需要扫描。

  • 对象分配:根据对象的大小,选择最合适的块返回。

缓存

  • TCMalloc:thread caching
  • 每个p包含一个mcache用于快速分配,用于为绑定于p上的g分配对象
  • mcache管理一组mspan
  • 当mcache中的mspan分配完毕,向mcentral申请带有未分配块的mspan
  • 当mspan中没有分配的对象,mspan会被缓存在mcentral中,而不是立刻释放并归还给OS。

对象分配时非常高频的操作:每秒分配GB级别的内存
小对象占比较高。
Go内存分配比较耗时。
分配路径长:g -> m -> p -> mcache -> mspan -> memory block -> return pointer
pprof:对象分配的函数是最频繁调用的函数之一。

优化方案:Balanced GC

  • 每个g都绑定一大块内存(1KB),称作GAB。
  • GAB用于noscan类型的小对象分配:<128B。
  • 使用三个指针维护GAB:base,end,top。
  • Bump pointer(指针碰撞)风格对象分配
    无需和其他分配请求互斥
    分配动作简单高效

GAB对于Go内存管理来说是一个大对象
本质:将多个小对象的分配合并成一次大对象的分配
问题:GAB的对象分配方式会导致内存被延迟释放。
方案:移动GAB中存活的对象。当GAB总大小超过一定阈值时,将GAB中存活的对象复制到另外分配的GAB中,原先的GAB可以释放,避免内存泄漏。本质:用copying GC的算法管理小对象

四、编译器和静态分析

1、编译器的结构

  • 重要的系统软件

识别符合语法和非法的程序
生成正确且高效的代码

  • 分析部分

词法分析,生成词素
语法分析,生成语法树
语义分析,收集类型信息,进行语义检查
中间代码生成,生成IR

  • 综合部分

代码优化,机器无关优化,生成优化后的IR
代码生成,生成目标代码

2、静态分析

不执行程序代码,推导程序的行为,分析程序的性质。
控制流:程序控制的流程。
数据流:数据在控制流上的传递。
通过分析控制流和数据流,我们可以知道更多关于程序的性质。


过程内分析:仅在函数内部进行分析。
过程间分析:考虑函数调用时参数传递和返回值的数据流和控制流。

五、Go编译器优化

1、为什么做编译器优化?
用户无感知,重新编译即可获得性能收益;通用性优化。
2、Beast mode:
函数内联、逃逸分析、默认栈大小调整、边界检查消除、循环展开。

1、函数内联

内联:将被调用函数的函数体的副本替换到调用位置上,同时重写代码以反映参数的绑定。
优点:

消除函数调用开销,如传递参数、保存寄存器等。
将过程间分析转化为过程内分析,帮助其他优化,如逃逸分析。
函数内联影响性能的程度用micro-benchmark验证。

缺点:

函数体变大,icache不友好。 编译生成的Go镜像变大。

函数内联大多数情况下是正向优化。
内联策略:调用和被调函数的规模。

2、逃逸分析

逃逸分析:分析代码中指针的动态作用域:指针在何处可以被访问。
Beast mode:函数内联拓展了函数边界,更多对象不逃逸。
优化:未逃逸的对象可以在栈上分配。