这是我参与「第三届青训营 -后端场」笔记创作活动的第5篇笔记。
本笔记总结了张云浩老师的「数据结构与算法」的课程内容（pdqsort部分）。
前篇链接：数据结构与算法（上） ｜ 青训营笔记 - 掘金 (juejin.cn)
2. 从零开始打造 pdqsort
pdqsort - 简介
pdqsort (pattern-defeating-quicksort)
是一种不稳定的混合排序算法，它的不同版本被应用在 C++ BOOST、Rust 以及 Go 1.19 中。它对常见的序列类型做了特殊的优化，使得在不同条件下都拥有不错的性能。
下面，就让我们从最朴素的想法开始，一步一步打造一个高性能的排序算法。
pdqsort - version1
前文讲到，三种排序算法在不同场景下的性能并不相同。那么，我们能不能针对不同的场景，选择性能最佳的算法，以此来设计出一个结合三种排序算法优点的排序算法呢？
有了这个想法，我们可以设计出 pdqsort 的 v1 版本：
它结合了三种排序算法的优点
- 对于短序列（小于一定长度）我们使用插入排序
- 其他情况，使用快速排序来保证整体性能
- 当快速排序表现不佳时，使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)
针对 pdqsort - version1 有两个问题：
-
短序列的具体长度是多少呢？
12 ~ 32，在不同语言和场景中会有不同，在泛型版本根据测试选择 24 -
如何得知快速排序表现不佳，以及何时切换到堆排序？
当最终pivot 的位置离序列两端很接近时 （距离小于 length/8 ） 判定其表现不佳，当这种情况的次数达到 limit (即 bits.Len(length)) 时，切换到堆排序
回答完这两个问题，我们最终的 pdqsort v1 的设计如下：
- 对于短序列 (<=24) 我们使用插入排序
- 其他情况，使用快速排序（选择首个元素作为pivot）来保证整体性能
- 当快速排序表现不佳时 (limit==0)，使用堆排序来保证最坏情况下时间复杂度仍然为 O(n*logn)
问题来了：如何让 pdqsort 速度更快？
- 尽量使得 QuickSort 的 pivot 为序列的中位数 -> 改进 choose pivot
- Partition 速度更快 -> 改进 partition ，但是此优化在 Go 表现不好，略
pdqsort - version2
首先思考关于 pivot 的选择：
- 使用首个元素作为 pivot（最简单的方案）
实现简单，但是往往效果不好,例如在sorted 情况下性能很差 - 遍历数组，寻找真正的中位数
遍历比对代价很高，性能不好
所以我们需要平衡寻找 pivot 所需要的开销和 pivot 带来的性能优化
而这个平衡点就是寻找近似中位数！
问题又来了：这个近似中位数是怎么来的呢？
答：我们通过采样数组中的几个元素，取这些采样到的元素的中位数作为近似中位数。这样便可以在常数时间内获取到一个性能还不错的 pivot 。
具体实现中，我们根据序列长度的不同，来决定选择策略
- 短序列(<=8)，选择固定元素
- 中序列(<=50)，采样三个元素
- 长序列(>50)，采样九个元素
Pivot 的采样方式使得我们有探知序列当前状态的能力!
举个例子：
采样的元素都是逆序排列 ——> 序列可能已经逆序 ——> 翻转整个序列
采样的元素都是顺序排列 ——> 序列可能已经有序 ——> 使用插入排序 注：插入排序实际使用 partiallnsertionSort，即有限制次数的插入排序
最终，我们得到了 pdqsort v2 的设计：
Version1 升级到 version2 优化总结
- 升级 pivot 选择策略（近似中位数)
- 发现序列可能逆序，则翻转序列 -> 应对 reverse 场景
- 发现序列可能有序，使用有限插入排序 -> 应对 sorted 场景
现在，想想还有什么场景我们没有优化？
- 短序列情况 done
- 使用插入排序(v1)
- 极端情况 done
- 使用堆排序保证算法的可行性(v1)
- 完全随机的情况 (random) done
- 更好的 pivot 选择策略(v2)
- 有序/逆序的情况 (sorted/reverse) done
- 根据序列状态翻转或者插入排序(v2)
- 元素重复度较高的情况 (mod8) ->?
pdqsort - final version
如何优化重复元素很多的情况呢？
尝试1：采样 pivot 的时候检测重复度？
这个方法不是很好，因为采样数量有限，不一定能采样到相同元素
解决方案：
如果两次 partition 生成的 pivot 相同，即 partition 进行了无效分割，此时认为 pivot 的值为重复元素。（相比上一种方法有更高的采样率）
优化-重复元素较多的情况
当检测到此时的 pivot 和上次相同时（发生在 leftSubArray），使用 partitionEqual 将重复元素排列在一起，减少重复元素对于 pivot 选择的干扰。
优化-当 pivot 选择策略表现不佳时，随机交换元素
避免一些极端情况使得 QuickSort 总是表现不佳，以及一些黑客攻击情况。
如此一来，我们便得到了 pdqsort- final version(Go1.19 default) ：
| Best | Avg | Worst | |
|---|---|---|---|
| InsertionSort | O(n) | O(n^2) | O(n^2) |
| QuickSort | O(n*logn) | O(n*logn) | O(n^2) |
| HeapSort | O(n*logn) | O(n*logn) | O(n*logn) |
| pdqsort | O(n) | O(n*logn) | O(n*logn) |
Pqdsort is the solution!
在一台云服务器上对 pdqsort- final version 进行测试
- 在有序或者逆序情况下提升 10x
- 其他情况下有 10 ~ 50 % 提升
