排序算法 | 青训营笔记

31 阅读4分钟

排序算法

Go 1.19排序算法是如何设计的?

生产环境中使用的排序算法和课本上的排序算法有什么区别?

Go语言的排序算法是快速排序吗?

经典排序算法

插入排序

将元素不断插入已经排序好的array中

  • 起始只有一个元素5,其本身是一个有序序列
  • 后续元素插入有序序列中,即不断交换,直到找到第一个比其小的元素

byteDance10-1.png

Time complexity

BestAvgWorst
O(n)O(n^2)O(n^2)

快速排序

分治思想,不断分割序列直到序列整体有序

  • 选定一个pivot(轴点)
  • 使用pivot分割序列,分成元素比pivot大和元素比pivot小的两个序列

Time complexity

BestAvgWorst
O(n*logn)O(n*logn)O(n^2)

堆排序

利用堆的性质形成的排序算法

  • 构造一个大顶堆
  • 将根节点(最大元素)交换到最后一个位置,调整整个堆,如此反复

Time complexity

BestAvgWorst
O(n*logn)O(n*logn)O(n*logn)

对比

BestAvgWorst
InsertionSortO(n)O(n^2)O(n^2)
QuickSortO(n*logn)O(n*logn)O(n^2)
HeapSortO(n*logn)O(n*logn)O(n*logn)

实际场景 benchmark

根据序列元素排列情况划分:

  • 完全随机的情况(random)
  • 有序/逆序的情况(sorted/reverse)
  • 元素重复度较高的情况(mod8)

在此基础上,还需要根据序列长度的划分(16/128/1024)

byteDance10-2.png

  • 插入排序在短序列中速度更快
  • 快速排序在其他情况中速度最快
  • 堆排序速度于最快算法差距不大

benchmark-sorted

byteDance10-3.png

  • 插入排序在序列已经有序的情况下最快

实际场景benchmark结论

  • 所有短序列和元素有序情况下,插入排序性能最好
  • 在大部分的情况下,快速排序有较好的综合性能
  • 几乎在任何情况下,堆排序的表现都比较稳定

byteDance10-4.png

byteDance10-5.png

打造pdqsort算法

pdqsort(pattern-defeating-quicksort)

是一种不稳定的混合排序算法,它的不同版本被应用在C++ BOOST、Rust以及Go 1.19中。它对常见的序列类型做了特殊的优化,使得在不同条件下都拥有不错的性能。

version1

结合三种排序方法的优点:

  • 对于短序列(小于一定长度)我们使用插入排序
  • 其他情况,使用快速排序来保证整体性能
  • 当快速排序表现不佳时,使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

Q&A

  1. 短序列的具体长度是多少?

    12~32,在不同语言和场景中会有不同,在泛型版本根据测试选定24

  2. 如何得知快速排序表现不佳,以及何时切换到堆排序?

    当最终pivot的位置离序列两端很接近时(距离小于length/8)判定其表现不佳,当这种情况的次数达到limit(即bits.Len(length))

byteDance10-6.png

如何让pdqsort速度更快?

  • 尽量使得QuickSort的pivot为序列的中位数---->改进choose pivot
  • partition速度更快——>改进partition,但是此优化在Go表现不好,略

version2

思考关于pivot的选择

  • 使用首个元素作为pivot(最简单的方案)

    实现简单,但是往往效果不好,例如在sorted情况下性能很差

  • 遍历数组,寻找真正的中位数

    遍历比对代价很高,性能不好

寻找pivot所需要的开销 <==平衡==> pivot带来的性能优化

寻找近似中位数!!!

根据序列长度的不同来决定选择的策略。

优化pivot的选择

  • 短序列(<=8),选择固定元素
  • 中序列(<=50),采样三个元素,median of three
  • 长序列(>50),采样九个元素,median of medians

pivot 的采样方式使得我们有探知序列当前状态的能力

采样的元素都是逆序排序 ==》序列可能已经逆序 ==》 翻转整个序列

采样的元素都是顺序排列 ==》序列可能已经有序 ==》 使用插入排序

插入排序实际使用partiallnsertionSort,即有限制次数的插入排序

version1升级到version2优化总结

  • 升级pivot选择策略(近似中位数)
  • 发现序列可能逆序,则翻转序列-> 应对reverse场景
  • 发现序列可能有序,使用有限插入排序->应对sorted场景

byteDance10-7.png

还有什么场景没有优化?

byteDance10-8.png

final version

如何优化重复元素很多的情况?

  • 采样pivot的时候检测重复度

    不是很好,因为采样数量有限,不一定能采样到相同元素

解决方案:

​ 如果两次partition生成的pivot相同,即partition进行了无效分割,此时认为pivot的值为重复元素(相比上一种方法有更高的采样率)

优化-重复元素较多的情况(partitionEqual)

当检测到此时的pivot和上次相同时(发生在leftSubArray),使用partitionEqual将重复元素排列在一起,减少重复元素对于pivot选择的干扰。

优化-当pivot选择策略表现不佳时,随机交换元素

避免一些极端情况下使得QuickSort总是表现不佳,以及一些黑客攻击情况。

byteDance10-9.png

byteDance10-10.png