Go中秘而不宣的数据结构: 四叉堆,不是普通的二叉堆

64 阅读8分钟

秘而不宣系列:

Go中秘而不宣的数据结构 spmc, 10倍性能于 channel
Go中秘而不宣的数据结构 runq, 难怪运行时调度那么好
Go中秘而不宣的数据结构 Treap:平衡树不一定就用红黑树
Go中秘而不宣的数据结构 BitVec:位向量125MB存储10亿个数据
Go中秘而不宣的数据结构 CacheLine:精细优化


Go 语言中 Timer 以及相关的 Ticker、time.After、time.AfterFunc 等定时器最终是以四叉堆的数据形式存放的。

全局的 timer 堆也经历过三个阶段的重要升级。

  • Go 1.9 版本之前,所有的计时器由全局唯一的四叉堆维护,goroutine 间竞争激烈。
  • Go 1.10 - 1.13,全局使用 64 个四叉堆维护全部的计时器,通过分片减少了竞争的压力,但是本质上还是没有解决 1.9 版本之前的问题
  • Go 1.14 版本之后,每个 P 单独维护一个四叉堆,避免了 goroutine 的竞争。(后面我们再介绍 per-P 的数据结构)

常见的堆(heap)常常以二叉堆的形式实现。可是为什么 Go timer 使用四叉堆呢?

以最小堆为例,下图展示了二叉堆和四叉堆的区别:

图片

  • 二叉堆:每个节点最多有 2 个子节点;四叉堆:每个节点最多有 4 个子节点
  • 在相同节点数下,四叉堆的高度更低,约为二叉堆的一半(log₄n vs log₂n)
  • 对于最小堆来说, 父节点的值小于等于子节点的值。

父节点和子节点的索引计算也略有不同。二叉堆的父子索引如下:

parent = (i - 1) // 2
left_child = 2 * i + 1
right_child = 2 * i + 2

四叉堆的父子索引如下:

parent = (i - 1) // 4
first_child = 4 * i + 1
last_child = 4 * i + 4

他们的操作时间复杂度:

图片

因为四叉树的高度相对更低,所以四叉堆适合数据量特别大,需要减少树的高度的场景, Go 的 timer 很久以前(11 年前)就使用四叉树来实现 Timer 的保存,当然 Go 开发者也是根据测试结果选择了四叉树,最早的这个提交可以查看: ## code review 13094043: time: make timers heap 4-ary (Closed)[1]

在 Go 的运行时中,四叉堆的实现在 src/runtime/time.go 文件中,可以查看源码实现。timers数据结构代表 Timer 的集合,每个 P 都有一个 timers 实例,用于维护当前 P 的所有 Timer。

// A timers is a per-P set of timers.
type timers struct {
    // 互斥锁保护timers; 虽然timers是每个P的,但是调度器可以访问另一个P的timers,所以我们必须锁定。
 mu mutex    // heap是一组计时器,按heap[i].when排序。这就是一个四叉堆,虽然没有明确的说明。
    // 必须持有锁才能访问这个堆。
 heap []timerWhen    // len是heap的长度的原子副本。
 len atomic.Uint32    // zombies是堆中标记为删除的计时器的数量。
 zombies atomic.Int32 raceCtx uintptr    // minWhenHeap是最小的heap[i].when值(= heap[0].when)。
    // wakeTime方法使用minWhenHeap和minWhenModified来确定下一个唤醒时间。
    // 如果minWhenHeap = 0,表示堆中没有计时器。
 minWhenHeap atomic.Int64    // minWhenModified是具有timerModified位设置的计时器的最小heap[i].when的下界。
    // 如果minWhenModified = 0,表示堆中没有timerModified计时器。
 minWhenModified atomic.Int64
}type timerWhen struct {
 timer *timer
 when  int64
}func (ts *timers) lock() {
 lock(&ts.mu)
}func (ts *timers) unlock() {
 ts.len.Store(uint32(len(ts.heap)))
 unlock(&ts.mu)
}

同时Timer结构体还引用了Timers, 这叫你中有我,我中有你,这样的设计是为了方便 Timer 的管理,Timer 的创建、删除、执行都是通过 Timers 来实现的。

type timer struct {
 mu mutex
 astate atomic.Uint8
 state  uint8
 isChan bool
 blocked uint32 when   int64
 period int64
 f      func(arg any, seq uintptr, delay int64)
 arg    any
 seq    uintptr ts *timers // 注意这里 sendLock mutex
 isSending atomic.Int32
}

我们来看看对这个堆操作的一些方法。

timerHeapN定义了堆是四叉堆,也就是每个节点最多有 4 个子节点。

const timerHeapN = 4

堆常用的辅助方法就是siftUpsiftDown,分别用于上浮和下沉操作。

下面是上浮的方法,我把一些跟踪检查的代码去掉了。整体看代码还是比较简单的,就是不停的上浮,直到找到合适的位置。

// siftUp将位置i的计时器在堆中合适的位置,通过将其向堆的顶部移动。
func (ts *timers) siftUp(i int) {
 heap := ts.heap
 if i >= len(heap) {
  badTimer()
 }    // 注意下面两行我们保存了当前i的计时器和它的when值
 tw := heap[i]
 when := tw.when
 if when <= 0 {
  badTimer()
 }
 for i > 0 {
  p := int(uint(i-1) / timerHeapN) // 父节点 (i-1)/4
  if when >= heap[p].when { // 如果父节点的when <= 当前节点的when,那么就不需要再上浮了
   break
  }
  heap[i] = heap[p] // 父节点下沉到当前的i
  i = p // i指向父节点, 继续循环上浮检查
 }    // 如果发生了上浮,那么最后将tw放到上浮到的合适位置
 if heap[i].timer != tw.timer {
  heap[i] = tw
 }
}

类似的,下面是下沉的方法:

// siftDown将位置i的计时器放在堆中的正确位置,通过将其向堆的底部移动。
func (ts *timers) siftDown(i int) {
 heap := ts.heap
 n := len(heap)
 if i >= n {
  badTimer()
 }    // 如果已经是叶子节点,不用下沉了
 if i*timerHeapN+1 >= n {
  return
 }    // 保存当前i的计时器和when值
 tw := heap[i]
 when := tw.when
 if when <= 0 {
  badTimer()
 }    // 从左子节点开始,找到最小的when值,然后将当前节点下沉到这个位置
 for {
  leftChild := i*timerHeapN + 1 // 左子节点
  if leftChild >= n {
   break
  }
  w := when
  c := -1
  for j, tw := range heap[leftChild:min(leftChild+timerHeapN, n)] { // 从左子节点开始遍历子节点,找到小于当前w的最小的子节点
   if tw.when < w {
    w = tw.when
    c = leftChild + j
   }
  }
  if c < 0 { // 如果没有找到比当前节点更小的子节点,那么就不用下沉了
   break
  }        // 将当前节点下沉到最小的子节点
  heap[i] = heap[c]
  i = c
 }    // 如果发生了下沉,那么最后将tw放到下沉到的合适位置
 if heap[i].timer != tw.timer {
  heap[i] = tw
 }
}

比上浮略微复杂,因为需要在兄弟节点中找到最小的节点,然后将当前节点下沉到这个位置。

对于一个任意的 slice,我们可以把它初始化为一个四叉堆,方法如下:

func (ts *timers) initHeap() {
 if len(ts.heap) <= 1 {
  return
 }    // 从最后一个非叶子节点开始,依次下沉
 for i := int(uint(len(ts.heap)-1-1) / timerHeapN); i >= 0i-- {
  ts.siftDown(i)
 }
}

当然 timers 还有一些辅助 timer 处理的一些方法,很多和四叉堆没有关系了,我就不一一介绍了,我主要介绍几个和四叉堆相关的方法。

这里吐槽一下,这个 time.go 文件中代码组织很乱,timer 和 timers 的方法都穿插在一起。理论应该是 timer 方法和 timers 方法分开,这样更清晰。或者把 timers 抽取到一个单独的文件中。

func (ts *timers) deleteMin() {
    // 得到堆顶元素
 t := ts.heap[0].timer
 if t.ts != ts {
  throw("wrong timers")
 }
 t.ts = nil // 将timer的ts置为nil,自此和ts一别两宽,再无瓜葛    // 将最后一个元素设置为堆顶
 last := len(ts.heap) - 1
 if last > 0 {
  ts.heap[0] = ts.heap[last]
 }
 ts.heap[last] = timerWhen{} // 将最后一个元素置为空
 ts.heap = ts.heap[:last] // 缩减slice,剔除最后的空元素
 if last > 0 { // 将堆顶元素下沉
  ts.siftDown(0)
 }
 ts.updateMinWhenHeap()
 if last == 0 {
  ts.minWhenModified.Store(0)
 }
}

增加一个 timer 到堆中:

func (ts *timers) addHeap(t *timer) {
 if netpollInited.Load() == 0 {
  netpollGenericInit()
 } if t.ts != nil {
  throw("ts set in timer")
 }    // 设置timer的ts为当前的timers,从此执子之手,笑傲江湖
 t.ts = ts
    // 添加到最后
 ts.heap = append(ts.heap, timerWhen{t, t.when})
 ts.siftUp(len(ts.heap) - 1// 上浮它到合适的位置
 if t == ts.heap[0].timer {
  ts.updateMinWhenHeap()
 }
}

n 叉堆

d-ary  堆或  d-heap  是一种优先队列数据结构,是二进制堆的泛化,其中节点有 d 个子节点而不是 2 个子节点。因此,二进制堆是 2 堆,而三元堆是 3 堆。根据 Tarjan  和 Jensen 等人的说法,d-ary 堆是由 Donald B. Johnson 1975 年发明的。

此数据结构允许比二进制堆更快地执行降低优先级操作(因为深度更浅了),但代价是删除最小操作速度较慢。这种权衡导致算法的运行时间更长,其中降低优先级操作比删除最小操作更常见。此外,d-ary 堆比二进制堆具有更好的内存缓存行为,尽管理论上最坏情况下的运行时间更长,但它们在实践中运行得更快。与二进制堆一样,d-ary 堆是一种就地数据结构,除了在堆中存储项目数组所需的存储空间外,它不使用任何额外的存储空间。

在 Go 生态圈已经有相应的库实现这个数据结构,比如ahrav/go-d-ary-heap[2],所以如果你有类似场景的需求,或者想对比测试,你可以使用这个库。

导入库:

import "github.com/ahrav/go-d-ary-heap"

下面的例子是创建三叉最小堆和四叉最大堆的例子:

package mainimport (
    "fmt"
    "github.com/ahrav/go-d-ary-heap"
)func main() {
    // Create a min-heap for integers with a branching factor of 3.
    minHeap := heap.NewHeap[int](3func(a, b int "int") bool { return a < b })    // Create a max-heap for integers with a branching factor of 4.
    maxHeap := heap.NewHeap[int](4func(a, b int "int") bool { return a > b })
}

往堆中增加元素:

minHeap.Push(10)
minHeap.Push(5)
minHeap.Push(15)maxHeap.Push(10)
maxHeap.Push(5)
maxHeap.Push(15)

从堆中移除最值:

fmt.Println(minHeap.Pop()) // Outputs: 5
fmt.Println(maxHeap.Pop()) // Outputs: 15

返回但是不移除最值:

fmt.Println(minHeap.Peek()) // Assuming more elements were added, outputs the smallest
fmt.Println(maxHeap.Peek()) // Assuming more elements were added, outputs the largest

参考资料

[1]

code review 13094043: time: make timers heap 4-ary (Closed): codereview.appspot.com/13094043/#p…

[2]

ahrav/go-d-ary-heap: github.com/ahrav/go-d-…