这是我参与「第三届青训营 -后端场」笔记创作活动的第11篇笔记
经典排序算法
插入排序
插入排序:将元素不断插入已经排序好的array中
起始只有一个元素5,其本身就是一个有序序列
后续元素插入有序序列中,不断交换,直到找到第一个比其小的元素
缺点:最坏时间复杂度为n^2
快速排序
快速排序:使用分治的思想,不断分割序列直到序列整体有序
选定一个pivot(轴点)
使用pivot分割序列,分成元素比pivot大和元素比pivot小的两个序列
然后在被分割的序列中再次进行分割,直到被分割的序列中只有一个元素
缺点:最坏时间复杂度为n^2,也就是每次选择的轴点不能将元素划分为两部分
堆排序
堆排序:利用堆的性质形成的排序算法
构造一个大顶堆
将根节点(最大元素)交换到最后一个位置,调整整个堆,如此反复
缺点:最好时间复杂度是n^logn
Benchmark
实际场景benchmark:
根据序列元素排列情况划分
完全随机的情况(random)
有序/逆序的情况(sorted/reverse)
元素重复读较高的情况(mod8)
在此基础上还需要根据序列长度进行划分(16/128/1024)
Benchmark-random
短序列:插入排序较快
中序列:快速排序较快
长序列:快速排序较快
插入排序在短序列中速度最快;快速排序在其他情况中速度最快;堆排序速度于最快算法差距不大
Benchmark-sorted
短序列:插入排序
中序列:插入排序
长序列:插入排序
插入排序在序列有序的情况下最快,在基本有序的情况下,如果快排的轴点没有挑选正确的话就会达到最坏时间复杂度
在所有短序列和元素有序的情况下,插入排序性能最好
在大部分的情况下,快速排序有较好的综合性能
几乎在任何情况下,堆排序的表现都比较稳定
从零打造pdqsort
qdqsort简介
pdqsort(pattern-defeating-quicksort)
是一种不稳定的混合排序算法,它的不同版本被应用在C++BOOST、Rust以及Go1.19中。它对常见的序列类型做了特殊的优化,使得在不同条件下都拥有不错的性能
version1
结合三种排序方法的优点
一般情况下使用快速排序来保证整体性能
当待排序序列为短序列(小于一定长度)我们使用插入排序
当快速排序表现不佳时,使用堆排序来保证最坏情况下时间复杂度依然为O(n*logn)
短序列的具体长度是多少呢
在很多场景下都可以认为12~32是一个短序列,在不同语言和场景中会有不同,在泛型版本根据测试选定24
如何得知快速排序表现不佳,以及即时切换到堆排序
当最终pivot的位置离序列两端很接近时(距离小于length/8)判定其表现不佳,当这种情况的次数达到limit(即bits.Len(length))时,切换到堆排序
最终流程就是,首先经过判定能不能走堆排或者插排,如果可以的话直接排序到结束,如果不能则开始进行快排,将原序列分为两部分,然后递归的处理两个子序列
pdqsort排序方法的改进方法:
尽量使得QuickSort的pivot为序列的中位数 -> 改进choose pivot
Partition速度更快 -> 改进partition,也就是在确定pivot之后如何快速的将序列分为两半,但是此优化在Go的表现不好,忽略
version2
关于pivot的选择:
使用首个元素作为pivot,缺点就是如果序列有序就会退化
遍历数组,寻找真正的中位数遍历数组,缺点就是寻找中位数代价很高,性能不好
优化后的pivot选择:根据序列长度不同,来决定选择策略
短序列(<=8):选择固定元素
中序列(<=50):采样三个元素,median of three
长序列(>50):采样九个元素,median of medians
pivot的采样方式使得我们有探知序列当前状态的能力
采样的元素都是逆序排列 -> 序列可能已经逆序 -> 翻转整个序列
采样的元素都是顺序排列 -> 序列可能已经有序 -> 使用插入排序
这里使用的插入排序实际使用的是partillnsertionSort,即有限制次数的插入排序
version2的优点:
升级了pivot选择策略(近似中位数)
发现序列已经逆序,则翻转序列 -> 应对reverse场景
发现序列已经有序,使用优先插入排序 -> 应对sorted场景
version2的缺点:
短序列情况
使用插入排序(v1)
极端情况
使用堆排序保证算法的可行性(v1)
完全随机的情况
更好的pivot选择策略(v2)
有序/逆序的情况
根据序列状态翻转或者插入排序(v2)
重复度较高的情况
final version
如何优化重复元素很多的情况:
采样pivot的时候检测重复度,缺点采样的数量有限,不一定能采样到相同元素
如果两次partition生成的pivot相同,即partition进行了无效分割,此时认为pivot的值为重复元素(相比于上一种方法有更高的采样率)
优化重复元素较多的情况(partitionEqual)
当检测到此时的pivot和上次相同时(发生在leftSubArray),使用partitionEquial提前将重复元素排列在一起,减少重复元素对于pivot选择的干扰。通常只有出现大量重复元素的时候,才会检测到两次pivot相同,如果第二次依旧使用这个pivot的话,会造成一次无效快排,此时需要将相同元素排在一起,再重新选择新的pivot,防止无效快排的出现
优化当pivot选择策略表现不佳的时候,随机交换一些元素
避免一些极端情况使得QuickSort总是表现不佳,以及一些黑客攻击情况
最终版本就是增加了几个可选项:
break patterns:当limit减一的时候,会随机的交换一些元素
partial insertion sort:当检测到可能有序或者逆序的时候,选择直接进行排序
partition equal items(partitionEqual):如果检测到有大量重复元素的时候,在将相同元素排序后直接返回