课程笔记 - 性能优化及内存管理 | 青训营笔记

IllTamer
57 阅读5分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 4 天

性能优化

性能优化的层面

  • 业务代码
    • 针对具体问题具体分析
    • 容易获得较大性能收益
  • SDK
    • 解决更通用问题
    • 考虑更多场景
  • 基础库
  • Runtime
  • OS

性能优化与软件质量

  • 软件质量至关重要
  • 在保证接口稳定的前提下改进具体实现
  • 测试用例：覆盖尽可能多的场景，方便回归（测试驱动开发）
  • 文档：做了什么，没做什么，能达到怎样的效果
  • 隔离：通过选项控制是否开启优化
  • 可观测：必要的日志输出

自动内存管理 (GC)

相关概念

  • Mytator：业务线程，分配新对象，修改对象指向关系
  • Collector：GC线程，找到存活对象，回收死亡对象的内存空间 GC算法分类
  • Serial GC：只有一个collector
  • Parallel GC：支持多个collectors同时回收的GC算法
  • Concurrent GC：mutator(s)和collector(s)可以同时执行

评价 GC 算法

  • 安全性(Safety)：不能回收存活的对象 基本要求
  • 吞吐率(Throughput)：1 - GC时间/程序执行总时间 花在GC上的时间
  • 暂停时间(Pause time)：stop the world (STW) 业务是否感知
  • 内存开销(Space overhead) *GC元数据开销

追踪垃圾回收

  • 对象被回收的条件：指针指向关系不可达的对象
  • 标记根对象
    • 静态变量、全局变量、常量、线程栈
  • 标记：找到可达对象
    • 从根对象触发，找到所有可达对象（求指针指向关系的传递闭包）
  • 清理：所有不可达对象
    • 将存活对象复制到另外的内存空间(Copying GC)
    • 将死亡对象的内存标记为“可分配”(Mark-sweep GC)
    • 移动并整理存活对象(Mark-compact GC)
  • 常见内存管理方式
    1. 分代GC(Generational GC)
    2. 引用计数

内存管理

分块

为了分配对象在 heap 上的内存，Go 提前将内存进行分块

  • 调用系统调用 mmap()向 OS 申请一大块内存，例如 4 MB
  • 先将内存划分成大块，例如 8 KB,称作 mspan
  • 再将大块继续划分成特定大小的小块，用于对象分配
  • noscan mspan：分配不包含指针的对象 - GC 不需要扫描
  • scan mspan：分配己包含指针的对象 - GC 需要扫描

缓存

缓存分配路径 g -> m -> p -> mcache -> mspan -> memory block -> return pointer

  • TCMalloc：thread caching
  • 每个p包含一个mcache用于快速分配，用于为绑定于 p 上的 g 分配对象
  • mcache 管理一组 mspan
  • 当 mcache 中的 mspan 分配完毕，向 mcentral 申请带有末分配块的 mspan
  • 当 mspan 中没有分配的对象，mspan 会被缓存在 mcentral 中，而不是立刻释放并归还给 OS

字节实现 - Balanced GC

背景：pprof 分析原小对象分配方式占用资源过多

  1. 每个 g 都绑定一大块内存(1KB)，称作 goroutine allocation buffer (GAB)
  2. GAB 用于 noscan 类型的小对象分配：< 128 B
  3. 使用三个指针维护 GAB：base, end, top
  4. Bump pointer (指针碰撞) 风格对象分配
    • 无需和其它分配请求互斥
    • 分配动作简单高效

问题：GAB 对于 Go 内存管理来说是一个对象，GAB 的对象分配方式会导致内存被延迟释放

  • 本质：将多个小对象的分配合并成一次达对象的分配
  • 方案：移动 GAB 中存活的对象
    • 当 GAB 总大小超过一定阈值时，将 GAB 中存活的对象复制到另外分配的 GAB 中
    • 原先的 GAB 可以释放，避免内存泄漏
    • 本质：用 copying GC 的算法理小对象

编译器和静态分析

编译器的结构

  • 分析部分(前端 front end)
    • 词法分析，生成词素 (lexeme)
    • 语法分析，生成语法树
    • 语义分析，收集类型信息，进行语义检查
    • 中间代码生成，生成 intermediate representation (IR)
  • 综合部分(后端 back end)
    • 代码优化，机器无关优化，生成优化后的 IR
    • 代码生成，生成目标代码

静态分析

定义：不执行代码，推导程序行为，分析程序性质

  • 控制流 (Control flow)：程序执行的流程
  • 数据流 (Data flow)：数据在控制流上的传递

过程内分析与过程间分析

  • 过程内分析：仅在过程内部进行分析
  • 过程间分析：同时分析控制流和数据流的考虑调用时参数传递和返回值的过程间的分析

Go 编译器优化

函数内联

  • 内联：将被调用函数的函数体 (callee) 的副本替换到调用位置 (caller) 上，同时重写代码以反映参数的绑定
  • 优点
    • 消除函数调用开销，例如传递参数、保存寄存器等
    • 将过程间分析转化为过程内分析，帮助其他优化，例如逃逸分析

逃逸分析

定义：分析代码中指针的动态作用域，即指针在何处可以被访问

大致思路：

  • 从对象分配处出发，沿着控制流，观察对象的数据流
  • 若发现指针p在当前作用域 s
    • 作为参数传递给其他函数
    • 传递给全局变量
    • 传递给其他的 goroutine
    • 传递给已逃逸的指针指向的对象
  • 则指针p指向的对象逃逸出 s，反之则没有逃逸出 S

字节实现 Beast mode

函数内联拓展了函数边界，更多对象不逃逸

优化：未逃逸的对象可以在栈上分配

  • 对象在栈上分配和回收很快：移动 sp
  • 减少在 heap 上的分配，降低 GC 负担
avatar
文章
阅读
粉丝