字节跳动青训营数据结构课程小记

树上挂着一条鱼
139 阅读2分钟

问题

高性能排序算法是如何设计的

根据不同情况选择不同策略，取长补短

生产环境中使用的的排序算法和课本上的排序算法有什么区别?

理论算法注重理论性能，例如时间、空间复杂度等。生产环境中的算法需要面对不同的实践场景，更加注重实践性能

Go语言(<= 1.18)的排序算法是快速排序么?

实际一直是混合排序算法，主体是快速排序。Go ≤ 1.18时的算法也是基于快速排序，和pdqsort的区别在于fallback时机、pivot 选择策略、是否有针对不同pattern优化等

一、为什么要学习数据结构和算法

例子-抖音直播排行榜功能

规则:某个时间段内，直播间礼物数TOP10房间获得奖励，需要在每个房间展示排行榜

解决方案

  • 礼物数量存储在Redis-zset中，使用skiplist 使得元素整体有序
  • 使用Redis集群，避免单机压力过大，使用主从算法、分片算法
  • 保证集群原信息的稳定，使用一-致性算法
  • 后端使用缓存算法(LRU)降低Redis压力，展示房间排行榜

二、经典排序

1. 插入排序 Insertion Sort

将元素不断插入到已经排好的Array中

  • 其实只有一个元素5，其本身是一个有序序列
  • 后续元素插入有序序列中，即不断发生交换，直到找到第一个比其小的元素

最快时间复杂度：O(N) 最差：O(N2) 空间复杂度：O(1)

缺点 ：

  • 最坏时间复杂度高达 O(n2)

优点：

  • 最好情况下时间复杂度 O(n)

2. 快速排序 Quick Sort

分治思想，不断分割序列直到序列整体有序

  • 选定一个pivot（轴点）
  • 使用pivot分割序列，分成元素比pivot大 和 元素比pivot小的两个序列

最快时间复杂度：O(N*logN) 最差：O(N2) 空间复杂度：O(1)

缺点 ：

  • 最坏时间复杂度高达 O(n2）

优点：

  • 最好情况下时间复杂度 O(N*logN)

3. 堆排序 Heap Sort

利用对的性质形成的排序算法

  • 构造一个大顶堆
  • 将根节点（最大元素）交换到最后一个位置，调整整个堆，如此反复

最快时间复杂度：O(NlogN) 最差：O(NlogN) 空间复杂度：O(logN)

缺点 ：

  • 最好时间复杂度高达 O(N*logN)

优点：

  • 最坏情况下时间复杂度 O(N*logN)

image.png

  • 插入排序平均和最坏情况时间复杂度都是O(n2),性能不好
  • 快速排序整体性能处于中间层次
  • 堆排序性能稳定，“众生平等”

三、从零开始打造pdqsort

pdqsort (pattern- defeating-quicksort)

是一种不稳定的混合排序算法，它的不同版本被应用在C++ BOOST、Rust以及Go 1.19中。它对常见的序列类型做了特殊的优化，使得在不同条件下都拥有不错的性能

pdqsort - version1

结合三种排序方法的优点

  • 对于短序列(小于一定长度)我们使用插入排序
  • 其他情况，使用快速排序来保证整体性能
  • 当快速排序表现不佳时，使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

Q&A

  1. 1.短序列的具体长度是多少呢? 12 ~ 32， 在不同语言和场景中会有不同，在泛型版本根据测试选定24

  2. 如何得知快速排序表现不佳，以及何时切换到堆排序?

    当最终pivot的位置离序列两端很接近时(距离小于length/8)判定其表现不佳，当这种情况的次数达到limit (即bits.Len(length))时，切换到堆排序

pdqqsort - version1

  • 对于短序列（≤24）我们使用插入排序
  • 其他情况，使用快速排序（选择收割元素作为pivot）来保证整体性能
  • 当快速排序表现不佳时(limit==0)，使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

问题：

如何让pdqsort速度更快?

  • 尽量使得QuickSort的pivot为序列的中位数 -> 改进choose pivot
  • Partition速度更快 -> 改进partition，但是此优化在Go表现不好，略

pdqsort - version2

思考关于pivot的选择

  • 使用首个元素作为pivot (最简单的方案 )

    实现简单，但是效果不好，例如在sorted情况下性能很差

  • 遍历数组，寻找真正的中位数

    遍历比对代价很高，性能不好

寻找近似

  • 根据序列长度不同没来决定选择策略

  • 优化 - Pivot的选择

    • 短序列（≤8）选择固定元素
    • 中序列（≤50）采样三个元素，寻找中位数
    • 长序列（＞50）采样九个元素，寻找中位数

  • pivot采样方式是我们有探知未知序列当前状态的能力！

    • 采样的元素都是逆序排列 → 序列可能已经逆序 → 反转整个序列
    • 采样的元素都是顺序排列 → 序列可能已经有序 → 使用插入排序（插入排序实际使用partiallnsertionSort，即有限次数的插入排序）

Version1升级到version2优化总结

  • 升级pivot选择策略（近似中位数）
  • 发现序列可能逆序，则翻转序列 → 应对reverse场景
  • 发现序列可能有序，使用有限插入排序 → 应对sorted场景

还有什么场景我们没有优化？

  • 短序列情况

    • 使用插入排序(v1)

  • 极端情况

    • 使用堆排序保证算法的可行性(v1)

  • 完全随机的情况(random)

    • 更好的pivot选择策略(v2)

  • 有序/逆序的情况(sorted/reverse)

    • 根据序列状态 翻转或者插入排序(v2)

  • 元素重复度较高的情况(mod8) → ?

如何优化重复元素很多的情况?

  • 采样pivot的时候检测重复度?

    不是很好因为采样数量有限，不一定能采样到相同元素

  • 解决方案:

    • 如果两次partition 生成的pivot相同，即partition进行了无效分割，此时认为pivot的值为重复元素（相比上一种有更高的采样率）

pdqsort - final version

  • 优化 - 重复元素较多的情况（partitionEqual）

    • 当检测到此时的pivot和上次相同时(发生在leftSubArray)，使用partitionEqual将重复元素排列在一起，减少重复元素对于pivot选择的干扰

  • 优化-当pivot选择策略表现不佳时，随机交换元素

    • 避免一些极端情况使得QuickSort总是表现不佳，以及一些黑客攻击情况
avatar
文章
阅读
粉丝