数据结构和算法|青训营笔记

玖之
70 阅读4分钟

这是我参与「第三届青训营 -后端场」笔记创作活动的的第5篇笔记

经典排序算法

插入排序 baike.baidu.com/item/%E6%8F…

  • 将元素不断插入已经排序好的array中
    起始只有一个元素，其本身是一个有序序列
    后续元素插入有序序列中，即不断交换，直到找到第一个比其小的元素

    BestAvgWorst
    O(n)O(n^2)O(n^2)

  • 缺点
    平均和最坏情况的时间复杂度高达O(n^2)

  • 优点
    最好情况时间复杂度为O(n)

快速排序 baike.baidu.com/item/%E5%BF…

  • 分治思想，不断分割序列直到序列整体有序
    选定一个pivot (轴点)
    使用pivot分割序列，分成元素比pivot大和元素比pivot小两个序列

    BestAvgWorst
    O(n*logn)O(n*logn)O(n^2)

  • 缺点
    最坏情况的时间复杂度高达O(n^2)

  • 优点
    平均情况的时间复杂度为O(n*logn)

堆排序 baike.baidu.com/item/%E5%A0…

  • 利用堆的性质形成的排序算法
    构造一个大顶堆 将根节点(最大元素)交换到最后一个位置，调整整个堆，如此反复

    BestAvgWorst
    O(n*logn)O(n*logn)O(n*logn)

  • 缺点
    最好情况的时间复杂度高达O(n*logn)

  • 优点
    最坏情况的时间复杂度为O(n*logn)

比较

BestAvgWorst
InsertionSortO(n)O(n^2)O(n^2)
QuickSortO(n*logn)O(n*logn)O(n^2)
HeapSortO(n*logn)O(n*logn)O(n*logn)
  • 插入排序平均和最坏情况时间复杂度都是O(n^2)，性能不好
  • 快速排序整体性能处于中间层次
  • 堆排序性能稳定，“众生平等”

实际场景benchmark

  • 根据序列元素排列情况划分
    完全随机的情况(random)
    有序/逆序的情况(sorted/reverse)
    元素重复度较高的情况(mod8)

  • 在此基础上，还需要根据序列长度的划分(16/128/1024)

    所有短序列和元素有序情况下，插入排序性能最好
    在大部分的情况下，快速排序有较好的综合性能
    几乎在任何情况下，堆排序的表现都比较稳定

从零开始打造pdqsort

简介

pdqsort (pattern- defeating- quicksort)是一种不稳定的混合排序算法，它的不同版本被应用在C++BOOST、Rust 以及Go 1.19中。它对常见的序列类型做了特殊的优化，使得在不同条件下都拥有不错的性能。

pdqsort-version1

  • 结合三种排序方法的优点
    对于短序列(小于一定长度)我们使用插入排序
    其他情况，使用快速排序来保证整体性能
    当快速排序表现不佳时，使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

    Q&A

    1. 短序列的具体长度是多少呢? 12 ~ 32，在不同语言和场景中会有不同，在泛型版本根据测试选定24

    2. 如何得知快速排序表现不佳，以及 何时切换到堆排序?
      当最终pivot的位置离序列两端很接近时(距离小于length/8)判定其表现不佳，当这种情况的次数达到limit (即bits.Len(length)) 时，切换到堆排序

65224.png

pdqsort-version2

  • 思考关于pivot的选择

    • 使用首个元素作为pivot(最简单的方案)
      实现简单，但是往往效果不好，例如在sorted情况下性能很差
    • 遍历数组，寻找真正的中位数
      遍历比对代价很高，性能不好

  • 根据序列长度的不同，来决定选择策略
    优化- Pivot的选择

    • 短序列(<=8)，选择固定元素
    • 中序列(< =50)，采样三个元素
    • 长序列(>50)，采样九个元素，

  • Pivot的采样方式使得我们有探知序列当前状态的能力!
    采样的元素都是逆序排列->序列可能已经逆序->翻转整个序列
    采样的元素都是顺序排列->序列可能已经有序->使用插入排序

    插入排序实际使用partiallnsertionSort,即有限制次数的插入排序

65951.png

pdqsort-final version

  • 如何优化重复元素很多的情况?

    • 采样pivot的时候检测重复度?
      不是很好，因为采样数量有限，不一定能采样到相同元素
    • 解决方案:
      如果两次partition 生成的pivot相同，即partition 进行了无效分割，此时认为pivot的值为重复元素(相比_上一种方法有更高的采样率)

  • 优化-重复元素较多的情况(partitionEqual)
    当检测到此时的pivot和上次相同时(发生在leftSubArray),使用partitionEqual将重复元素排列在一起，减少重复元素对于pivot选 择的干扰

  • 优化-当pivot选择策略表现不佳时，随机交换元素
    避免一些极端情况使得QuickSort总是表现不佳，以及一些黑客攻击情况

25170424.png

BestAvgWorst
InsertionSortO(n)O(n^2)O(n^2)
QuickSortO(n*logn)O(n*logn)O(n^2)
HeapSortO(n*logn)O(n*logn)O(n*logn)
pdqSortO(n)O(n*logn)O(n*logn)
avatar
文章
阅读
粉丝