这是我参与「第三届青训营 -后端场」笔记创作活动的的第3篇笔记

一、经典排序算法

插入排序

将元素不断插入已经排序好的array中

快速排序

分治

先j还是i的顺序问题

堆排序

1. 构造大/小顶堆（按非叶子结点的编号大小顺序遍历构造，此处复杂度O(n)）
2. 将堆顶元素和未排序的末尾元素交换，然后调整堆

Benchmark实际场景

根据序列元素排列情况划分

• 完全随机的情况(random)
• 有序/逆序的情况(sorted/reverse)
• 元素重复度较高的情况(mod8)

在此基础上，还需要根据序列长度的划分(16/128/1024)

情况	最快排序
短序列（长度为16）	插入排序
中序列（长度为128）	快速排序
长序列（长度为1024）	快速排序

• 插入排序在短序列中速度最快
• 快速排序在其他情况中速度最快
• 堆排序速度于最快算法差距不大

如果序列本身就是有序的

情况	最快排序
短序列（长度为16）	插入排序
中序列（长度为128）	插入排序
长序列（长度为1024）	插入排序

• 插入排序在已经有序的情况下速度最快

结论

• 所有短序列和元素有序情况下，插入排序性能最好
• 在大部分的情况下，快速排序有较好的综合性能
• 几乎在任何情况下，堆排序的表现都比较稳定

二、pdqsort

本部分直接引用了氧烷的笔记

pdqsort (pattern- defeating-quicksort)

是一种不稳定的混合排序算法，它的不同版本被应用在C++ BOOST、Rust以及Go 1.19中。它对常见的序列类型做了特殊的优化，使得在不同条件下都拥有不错的性能

pdqsort - version1

结合三种排序方法的优点

• 对于短序列(小于一定长度)我们使用插入排序
• 其他情况，使用快速排序来保证整体性能
• 当快速排序表现不佳时，使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

Q&A

0. 1.短序列的具体长度是多少呢? 12 ~ 32， 在不同语言和场景中会有不同，在泛型版本根据测试选定24

1. 如何得知快速排序表现不佳，以及何时切换到堆排序?

   当最终pivot的位置离序列两端很接近时(距离小于length/8)判定其表现不佳，当这种情况的次数达到limit (即bits.Len(length))时，切换到堆排序

pdqqsort - version1

• 对于短序列（≤24）我们使用插入排序
• 其他情况，使用快速排序（选择收割元素作为pivot）来保证整体性能
• 当快速排序表现不佳时(limit==0)，使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

问题：

如何让pdqsort速度更快?

• 尽量使得QuickSort的pivot为序列的中位数 -> 改进choose pivot
• Partition速度更快 -> 改进partition，但是此优化在Go表现不好，略

pdqsort - version2

思考关于pivot的选择

• 使用首个元素作为pivot (最简单的方案 )

  实现简单，但是效果不好，例如在sorted情况下性能很差

• 遍历数组，寻找真正的中位数

  遍历比对代价很高，性能不好

寻找近似

• 根据序列长度不同没来决定选择策略

• 优化 - Pivot的选择

  • 短序列（≤8）选择固定元素
  • 中序列（≤50）采样三个元素，寻找中位数
  • 长序列（＞50）采样九个元素，寻找中位数

• pivot采样方式是我们有探知未知序列当前状态的能力！

  • 采样的元素都是逆序排列 → 序列可能已经逆序 → 反转整个序列
  • 采样的元素都是顺序排列 → 序列可能已经有序 → 使用插入排序（插入排序实际使用partiallnsertionSort，即有限次数的插入排序）

Version1升级到version2优化总结

• 升级pivot选择策略（近似中位数）
• 发现序列可能逆序，则翻转序列 → 应对reverse场景
• 发现序列可能有序，使用有限插入排序 → 应对sorted场景

还有什么场景我们没有优化？

• 短序列情况

  • 使用插入排序(v1)

• 极端情况

  • 使用堆排序保证算法的可行性(v1)

• 完全随机的情况(random)

  • 更好的pivot选择策略(v2)

• 有序/逆序的情况(sorted/reverse)

  • 根据序列状态 翻转或者插入排序(v2)

• 元素重复度较高的情况(mod8) → ?

如何优化重复元素很多的情况?

• 采样pivot的时候检测重复度?

  不是很好因为采样数量有限，不一定能采样到相同元素

• 解决方案:

  • 如果两次partition 生成的pivot相同，即partition进行了无效分割，此时认为pivot的值为重复元素（相比上一种有更高的采样率）

pdqsort - final version

• 优化 - 重复元素较多的情况（partitionEqual）

  • 当检测到此时的pivot和上次相同时(发生在leftSubArray)，使用partitionEqual将重复元素排列在一起，减少重复元素对于pivot选择的干扰

• 优化-当pivot选择策略表现不佳时，随机交换元素

  • 避免一些极端情况使得QuickSort总是表现不佳，以及一些黑客攻击情况

三、复杂度

Method	Best	Avg	Worst
InsertionSert	O(N)	O(N2)	O(N2)
QuickSort	O(N*logN)	O(N*logN)	O(N2)
HeapSort	O(N*logN)	O(N*logN)	O(N*logN)
pdqSort	O(N)	O(N*logN)	O(N*logN)