数据结构与算法 | 青训营笔记

109 阅读2分钟

这是我参与「第五届青训营」伴学笔记创作活动的第 17 天

本节课主要介绍:

一、为什么要学习数据结构和算法

例子-抖音直播排行榜功能:

规则:某个时间段内,直播间礼物数TOP10房间获得奖励,需要在每个房间展示排行榜

解决方案:

1.礼物数量存储在Redis-zset中,使用skiplist使得元素整体有序

2.使用Redis集群,避免单机压力过大,使用主从算法、分片算法

3.保证集群原信息的稳定,使用一致性算法

4.后端使用缓存算法(LRU)降低Redis压力,展示房间排行榜

数据结构和算法几乎存在于程序开发中的所有地方

什么是最快的排序算法?

Python-timsort

C++-introsort

Rust-pdqsort

Go的排序算法有没有提升空间?

Go(<=1.18)-introsort

pdqsort重新实现了G0的排序算法,在某些常见场景中比之前算法快~10倍,成为Go1.19的默认排序算法

二、经典排序算法

1.Insertion Sort插入排序

将元素不断插入已经排序好的array中

·起始只有一个元素5,其本身是一个有序序列 ·后续元素插入有序序列中,即不断交换,直到找到第一个比其小的元素

缺点

平均(翻转的对数决定)和最坏(逆序)情况的时间复杂度高达O(n∧2)

优点

最好(有序)情况时间复杂度为O(n)

2.Quick Sort快速排序

分治思想,不断分割序列直到序列整体有序

选定一个pivot(轴点)

使用pivot分割序列,分成元素比pivot大和元素比pivot小两个序列

缺点

最坏情况的时间复杂度高达O(n^2)

每次只将一个元素放到最终位置,例如选择的轴点都是已知序列的最小元素

优点

平均情况的时间复杂度为O(n*logn)

每一次选择的轴点恰好是中位数,这样每次分割都能分割成

3.Heap Sort堆排序

利用堆的性质形成的排序算法

构造一个大顶堆

将根节点(最大元素)交换到最后一个位置,调整整个堆,如此反复

缺点

最好情况的时间复杂度高达O(n*logn)

优点

最坏情况的时间复杂度为O(n*logn)

理论印象:

插入排序平均和最坏情况时间复杂度都是O(n^2),性能不好

快速排序整体性能处于中间层次

堆排序性能稳定,“众生平等”

实际场景benchmark

根据序列元素排列情况划分:

1.完全随机的情况(random)

2.有序/逆序的情况(sorted/reverse)

3.元素重复度较高的情况(mod8)

4.在此基础上,还需要根据序列长度的划分(16/128/1024)

Benchmark-random:

插入排序在短序列中速度最快

快速排序在其他情况中速度最快

堆排序速度于最快算法差距不大

Benchmark-sorted:

插入排序在序列已经有序的情况下最快

总结:

所有短序列和元素有序情况下,插入排序性能最好

在大部分的情况下,快速排序有较好的综合性能

几乎在任何情况下,堆排序的表现都比较稳定

三、从零开始打造 pdqsort

简介:

pdqsort (pattern-defeating-quicksort)是一种不稳定的混合排序算法,它的不同版本被应用在C++ BOOST、Rust以及Go1.19中。它对常见的序列类型做了特殊的优化,使得在不同条件下都拥有不错的性能

pdgsort version1:

结合三种排序方法的优点

1.对于短序列(<=24)我们使用插入排序

2.其他情况,使用快速排序(选择首个元素作为pivot)来保证整体性能

3.当快速排序表现不佳时(limit==0),使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

如何让pdgsort速度更快?

·尽量使得QuickSort的pivot为序列的中位数->改进choose pivot

·Partition速度更快->改进partition,但是此优化在Go表现不好

pdgsort version2:

思考关于pivot的选择

·使用首个元素作为pivot(最简单的方案)

实现简单,但是往往效果不好,例如在sorted情况下性能很差

·遍历数组,寻找真正的中位数

遍历比对代价很高,性能不好

在开销和性能优化中寻找近似中位数。

优化-Pivot的选择

1.短序列(<=8),选择固定元素

2.中序列(<=50),采样三个元素

3.长序列(>50),采样九个元素

Pivot的采样方式使得我们有探知序列当前状态的能力:

采样的元素都是逆序排列——>序列可能已经逆序——>翻转整个序列

采样的元素都是顺序排列——>序列可能已经有序——>使用插入排序

Version1升级到version2优化总结

升级pivot选择策略(近似中位数)

发现序列可能逆序,则翻转序列->应对reverse场景

发现序列可能有序,使用有限插入排序->应对sorted场景

pdqsort final version:

如何优化重复元素很多的情况?

·采样pivot的时候检测重复度? 不是很好,因为采样数量有限,不一定能采样到相同元素

解决方案:

如果两次partition生成的pivot相同,即partition进行了无效分割 此时认为pivot的值为重复元素 (相比上一种方法有更高的采样率)

优化-重复元素较多的情况(partitionEqual)

当检测到此时的pivot和上次相同时(发生在leftSubArray),使用 partitionEqual将重复元素排列在一起,减少重复元素对于pivot选择的干扰

优化-当pivot选择策略表现不佳时,随机交换元素

避免一些极端情况使得QuickSort总是表现不佳,以及一些黑客攻 击情况

引用

字节内部课-从零开始打造 pdqsort - 掘金 (juejin.cn)