什么是性能优化？

• 提升软件系统的处理能力、减少不必要的性能消耗、充分发挥计算机算力

为什么要做性能优化？

• 用户体验：提升用户体验（刷抖音更流畅、双十一不卡顿）
• 高效利用资源：降低成本提高效率（一个小优化但因为服务器数量多--量变引发质变）

性能优化层面：

• 业务层优化：

1. 针对特定场景、具体问题具体分析
2. 容易获得较大性能收益

业务代码：在业务层处理用户请求

SDK代码：高性能数据结构、网络库、IO库

• 语言运行时的优化：

1. 解决更通用的性能问题
2. 考虑更多场景
3. Tradeoffs

基础库代码：高性能数据结构、网络库、IO库

语言运行时：语言的实现、JC、调度器

OS：提供运行时的隔离环境

• (重要)数据驱动：

1. 自动化性能分析工具pprof
2. 依靠数据而非猜测
3. 首先优化最大瓶颈

性能优化时需要注意的：

• 软件质量至关重要
• 在保证借口稳定的前提下改进具体实现
• 测试用例：覆盖尽可能多的场景、方便回归（用测试来驱动开发）
• 记录文档：做了什么、没做什么、能达到什么样的效果（好让用户针对他的应用场景来开启我们的优化内容）
• 隔离性：通过选项控制是否开启优化（保证没有开启这项优化时的效果和之前相同）
• 可观测：必要的日志输出（告知用户我们进行了什么优化）

总结

性能优化的基本问题

性能优化的两个层面

性能优化的可维护性

课程目录：

1.自动内存管理

背景&概念：

• 动态内存

  • 程序运行时根据需求来动态分配内存的使用：malloc()

• 自动内存管理（垃圾回收）：由程序语言的运行时系统管理动态内存

  • 避免手动管理，专注于实现业务逻辑
  • 保证内存使用的正确性和安全性：double-free problem（连续释放了两次内存）、use-after-free problem（释放后又去使用了内存）「这两个problem可能会崩溃、产生安全性问题」

• 三个任务

  • 为新对象分配内存空间
  • 找到存活着的对象
  • 回收死亡对象的内存空间

相关概念：

• 什么是Concurrently？
• 什么是Mutator threads？
• Mutator：业务线程（分配新对象、修改对象指向关系）
• Collotor：GC线程（找到存活对象、回收死亡对象的内存空间）
• Serial GC：只有一个Collotor、会有暂停
• Parallel GC：支持多个Collotor、会有暂停（支持多Collotor性能更高）

• Concurrent GC：支持mutator(s)和collotor(s)可以同时执行（需要GC时再GC，不需要GC时暂停）

  • Concurrent GC中的Collotor需要能够感知对象指向关系的改变

• 评价GC算法

  • 安全性(Satety)：不能回收存活的对象（基本要求）
  • 吞吐率(Throughput)：1-（GC时间/程序执行总时间）「花在GC上的时间」（p=0～1 越接近1越好）
  • 暂停时间(Pause time)：stop the word（STW）业务是否感知
  • 内存开销(Space overhead)：GC元数据开销（开销越小越好）

• 追踪垃圾回收(Tracing garbage colletion)

  • 对象被回收的条件：指针指向关系不可达的对象

  • 标记根对象

    • 静态变量、全局变量、常量、线程栈等

  • 标记：找到可达对象

    • 求指针指向关系的传递闭包：从跟对象出发，找到所有指针对象

  • 清理：所有不可达对象

    • 将存活对象复制到另外的内存空间（Copying GC）
    • 将死亡对象的内存标记为“可分配”（Mark-sweep GC）
    • 移动并整理存活的对象（Mark-compact GC）

• 根据对象的生命周期，使用不同的标记和清理策略