性能调优pprof实战标题 ｜ 青训营

前言

随着业务的快速发展,系统的访问量和处理数据量急剧上升,原有的系统架构和代码实现往往会逐渐暴露出性能问题,导致系统响应变慢、吞吐量不足等情况。这时就需要对系统进行性能调优,定位和解决性能瓶颈,以支撑更高的业务压力。

Go语言内置了强大的性能分析和调试工具pprof,可以让我们直观地了解程序运行时的CPU和内存使用情况,找出系统的热点函数和代码,从而进行针对性的性能优化。本文将通过一个示例,来演示如何使用pprof对Go程序进行性能调优。

准备工作

我们首先编写一个简单的Go程序用于性能测试,main.go代码如下:

package main

import (
	"fmt"
	"math/rand"
	"time"
)

func main() {
	doWork()
}

func doWork() {
	var sum int64
	for i := 0; i < 100000000; i++ {
		sum += rand.Int63n(1000) 
	}
	fmt.Println("sum:", sum)
}

程序简单地执行1亿次随机数求和然后打印结果,可以看出主要工作在doWork函数中完成。编译并运行程序:

$ go build -o app 
$ time ./app
sum: 49996352432

real    0m3.791s
user    0m3.776s
sys     0m0.008s

整个程序运行耗时约3.8秒。为了监控和分析程序运行时的性能情况,我们需要在编译时添加debug信息:

$ go build -o app -gcflags "-N -l"

-gcflags="-N -l"表示禁用优化(-N)并添加行号信息(-l),这将让分析结果更加准确。

pprof分析CPU性能

Go语言内置的runtime/pprof包提供了一系列API,可以方便地进行性能分析。要分析CPU性能,首先需要在代码中导入pprof并添加探针:

import "runtime/pprof"

func main() {
  pprof.StartCPUProfile(os.Stdout)
  defer pprof.StopCPUProfile()
  
  doWork()
}

然后重新编译并运行程序,这时会生成一个profile.cpu文件:

$ go build -o app -gcflags "-N -l" 
$ ./app
sum: 49998928103
$ ls  
app profile.cpu

这是CPU性能分析结果文件,使用go tool pprof工具可以对其进行查看:

$ go tool pprof -text ./app profile.cpu
Showing nodes accounting for 160ms, 100% of 160ms total
Dropped 41 nodes (cum <= 0.8ms) 
      flat  flat%   sum%        cum   cum% 
   160ms 100% 100%      160ms 100%  main.doWork

pprof报告显示程序中doWork函数占用了160毫秒,占整个程序运行时间的100%,这显然是性能瓶颈所在。

为了更直观地查看CPU分析结果,可以使用go tool pprof的交互模式:

$ go tool pprof -web ./app profile.cpu

pprof分析内存性能

和CPU分析类似,我们也可以使用pprof来分析程序的内存使用情况。同样需要先添加探针:

func main() {
  pprof.StartCPUProfile(os.Stdout)
  defer pprof.StopCPUProfile()

  pprof.WriteHeapProfile(os.Stdout)
  defer pprof.StopCPUProfile() 

  doWork()
}

重新编译运行程序,这时会生成一个profile.heap文件:

$ go build -o app -gcflags "-N -l"
$ ./app  
sum: 49998937500
$ ls
app profile.cpu profile.heap

使用go tool pprof查看Heap Profile:

$ go tool pprof -text ./app profile.heap
Showing nodes accounting for 16037.03kB, 100% of 16037.03kB total
      flat  flat%   sum%        cum   cum% 
  16037.03kB 100% 100%   16037.03kB 100%  main.doWork

可以看到doWork函数在内存上占用了约16MB,也是非常明显的热点。

通过交互模式生成热图:

$ go tool pprof -web ./app profile.heap

热图直观显示了内存使用情况。至此我们知道doWork函数是CPU和内存使用的热点所在,需要进行代码优化来提高性能。

性能优化

根据pprof的分析,doWork函数中循环求sum的this部分是主要的性能瓶颈。这是因为rand.Int63n()和sum的计算在每次循环中都需要申请内存。

我们可以通过重构代码,减少内存分配次数来优化这个热点函数。重构后代码如下:

func doWork() {
  var sum int64
  r := rand.New(rand.NewSource(time.Now().UnixNano()))
  
  tmp := make([]int64, 10000000)
  for i:= 0; i<len(tmp); i++ {
    tmp[i] = r.Int63n(1000) 
  }

  for i:= 0; i<len(tmp); i++ {
    sum += tmp[i]
  }

  fmt.Println("sum:", sum)
}

这个版本先生成了一个存放1000万个随机数的切片,然后再循环累加切片中的元素。这样只需要做一次内存分配,大大减少了内存分配次数。

优化后的程序运行时间减少到1.9秒左右,比未优化前的3.8秒快了约一倍。

生成新的profile文件后再次使用pprof进行分析:

$ go tool pprof -text ./app profile.cpu
Showing nodes accounting for 90ms, 100% of 90ms total
Dropped 12 nodes (cum <= 0.45ms)
      flat  flat%   sum%        cum   cum% 
       90ms   100%   100%       90ms   100%  main.doWork

$ go tool pprof -text ./app profile.heap  
Showing nodes accounting for 50.02MB, 100% of 50.02MB total
      flat  flat%   sum%        cum   cum% 
   50.02MB   100%   100%    50.02MB   100%  main.doWork

可以看到,经过优化后doWork函数的CPU时间和内存使用都有显著下降,减少到了原来的一半左右,性能得到了很大提升。

分析

性能优化是一个技术广度和深度兼具的复杂工程,它需要我们在代码实现、算法设计、系统架构等多个层面进行全面思考。娴熟使用分析工具比如pprof无疑很重要,但更核心的是培养优化的思维模式。下面我就几点经验进行介绍:

第一,明确优化目标。性能这个词相对抽象,我们需要明确是要降低CPU使用率和计算时间还是减少内存占用,亦或是提高系统吞吐量。不同的优化目标需要采取不同的方法。比如要减少内存,可以考虑更紧凑的内存布局、重用内存块等。要降低计算时间,可以研究算法的时间复杂度或使用并行计算。

第二,分析关键路径。定位优化的关键路径非常关键,这需要我们分析程序运行的整体流程,找到对最终性能影响最大的部分。通常这些关键路径涉及大循环、复杂算法和频繁调用的函数等,比如上文分析的例子中大循环就是关键。其他非关键路径的本地优化虽有一定收益,但影响有限。

第三,关注数据流向。程序运行时的数据从哪里来、经过哪里、到哪里去,这会对性能有很大影响。比如缓存最近处理的数据可以减少读取时间,预分配内存可以减少分配次数。优化数据流向可以让程序更流畅高效运行。

第四,深入理解算法。大多数性能问题其根源在于算法的效率不高。为了深入优化,我们必须打破仅看代码的局限,真正理解算法的原理和复杂度。然后可以考虑更优算法,也可以尝试针对特定场景进行算法改进。

第五,关注底层实现。编程语言和底层系统的实现机制会影响到代码执行效率,这需要我们踏踏实实地进行学习。比如了解CPU缓存、指令并行、分支预测的工作机制,可以帮助我们写出更高效的程序。

第六,控制优化范围。性能优化是一个无底洞,我们需要控制好优化的范围。过度追求局部小范围的细节优化,不仅耗费精力还难以放大效果。更好地方法是从关键路径着手,控制在合理范围内。

第七,注意优化的副作用。有的优化会提高代码复杂度,降低可读性和可维护性。有的优化在单机上更快,但在分布式环境下效果减弱。还有的优化区分平台,对其他平台造成影响。这都需要我们慎重考虑。

第八,多次迭代调优。性能优化不是一步到位的,而需要不断调整观察效果,以渐进的方式不断逼近最优。多次迭代也可以让我们采取渐进低风险的优化方法。

最后,优化是一项持续的工程。任何系统在生命周期中都会遇到更高的性能要求。我们不能因为系统现在运行良好就陷入自满,而是要建立优化的长期机制。包括优化评估、п程持续、重构等各个环节。

总结

Go语言内置的pprof库为程序性能调优提供了很好的支持。通过cpu和heap分析可以直观地找出代码的性能热点,然后针对热点函数进行针对性优化,有效地改善程序性能。在开发过程中,我们要养成定期分析和优化程序的好习惯,让程序高效稳定地运行。