数据结构与算法 | 青训营笔记

等待救赎的波
104 阅读5分钟

这是我参与「第三届青训营 -后端场」笔记创作活动的的第8篇笔记

为什么要学习数据结构和算法

例子- 抖音直播排行榜功能

规则:某个时间段内，直播间礼物数TOP10房间获得奖励，需要在每个房间展示排行榜 解决方案

  • 礼物数量存储在 Redis-zset中,使用skiplist使得元素整体有序
  • 使用 Redis集群,避免单机压力过大，使用主从算法、分片算法
  • 保证集群原信息的稳定,使用一致性算法
  • 后端使用缓存算法(LRU)降低 Redis压力,展示房间排行榜

数据结构和算法几乎存在于程序开发中的所有地方

最快的排序算法

Python-timsort C++-introsort Rust-pdqsort

Go的排序算法有没有提升空间

Go(<=1.18)-introsort

大佬

image.png 重新实现了Go的排序算法,在某些常见场景中比之前算法快一10倍,成为Go 1.19的默认排序算法

经典的排序算法

插入排序

将元素不断插入已经排序好的array中

  • 起始只有一个元素5,其本身是一个有序序列
  • 后续元素插入有序序列中,即不断交换,直到找到第一个比其小的元素

image.png 缺点

  • 平均和最坏情况的时间复杂度高达O(n^2) 优点
  • 最好情况时间复杂度为O(n)

Time complexity

image.png

Quick Sork 快速排序

分治思想．不断分割序列直到序列整体有序

  • 选定一个pivot (轴点)
  • 使用pivot分割序列,分成元素比 pivot大和元素比 pivot 小两个序列

image.png

缺点

  • 最坏情况的时间复杂度高达O(n^2) 优点
  • 平均情况的时间复杂度为O(n-logn)

Time complexity

image.png

Heap Sort 堆排序

利用堆的性质形成的排序算法

  • 构造一个大顶堆
  • 将根节点(最大元素)交换到最后一个位置,调整整个堆,如此反复

image.png 缺点

  • 最好情况的时间复杂度高达O(n*logn) 优点
  • 最坏情况的时间复杂度为O(n*logn)

Time complexity

image.png

经典算法理论印象

  • 插入排序平均和最坏情况时间复杂度都是O(n^2),性能不好
  • 快速排序整体性能处于中间层次
  • 堆排序性能稳定，“众生平等”

image.png

实际场景

根据序列元素排列情况划分

  • 完全随机的情况(random)
  • 有序/逆序的情况(sorted/reverse)
  • 元素重复度较高的情况(mod8)

在此基础上，还需要根据序列长度的划分(16/128/1024)

image.png

Benchmark-random

  • 插入排序在短序列中速度最快
  • 快速排序在其他情况中速度最快
  • 堆排序速度于最快算法差距不大

image.png

Benchmark-sorted

插入排序在序列已经有序的情况下最快

image.png

实际场景benchmark结论

  • 所有短序列和元素有序情况下，插入排序性能最好
  • 在大部分的情况下,快速排序有较好的综合性能
  • 几乎在任何情况下，堆排序的表现都比较稳定

image.png

从零开始打造pdqsort

简介

pdqsort (pattern-defeating-quicksort) 是一种不稳定的混合排序算法,它的不同版本被应用在C++ BOOST、Rust 以及Go 1.19中。它对常见的序列类型做了特殊的优化.使得在不同条件下都拥有不错的性能

version1

结合三种排序方法的优点

  • 对于短序列(小于一定长度)我们使用插入排序
  • 其他情况,使用快速排序来保证整体性能
  • 当快速排序表现不佳时，使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

Q&A

  1. 短序列的具体长度是多少呢?

12-32、在不同语言和场景中会有不同，在泛型版本根据测试选定24

  1. 如何得知快速排序表现不佳，以及何时切换到堆排序? 当最终pivot 的位置离序列两端很接近时(距离小于length/8)判定其表现不佳，当这种情况的次数达到 limit(即bits.Len(length))时，切换到堆排序

image.png

  • 对于短序列(<=24)我们使用插入排序
  • 其他情况,使用快速排序(选择首个元素作为pivot)来保证整体性能- 当快速排序表现不佳时(limit==0),使用堆排序来保证最坏情况下时间复杂度仍然为O(n*logn)

如何让pdqsort速度更快?

  • 尽量使得QuickSort 的 pivot为序列的中位数->改进choose pivot
  • Partition速度更快->改进 partition ，但是此优化在Go表现不好，略

version2

根据序列长度的不同，来决定选择策略 优化-Pivot的选择

  • 短序列(<=8)，选择固定元素
  • 中序列(<=50),采样三个元素，median of three
  • 长序列(>50)，采样九个元素，median of medians

Pivot的采样方式使得我们有探知序列当前状态的能力!

image.png

注:插入排序实际使用partialinsertionsort，即有限制次数的插入排序

Version1升级到version2优化总结

  • 升级pivot选择策略(近似中位数)
  • 发现序列可能逆序，则翻转序列->应对reverse场景
  • 发现序列可能有序，使用有限插入排序->应对sorted场景

image.png

final version

优化-重复元素较多的情况(partitionEqual)

  • 当检测到此时的pivot和上次相同时（发生在leftSubArray) ,使用partitionEqual将重复元素排列在一起，减少重复元素对于pivot选择的干扰

优化-当pivot选择策略表现不佳时,随机交换元素

  • 避免一些极端情况使得QuickSort总是表现不佳,以及一些黑客攻击情况

image.png

final

高性能的排序算法是如何设计的?

  • 根据不同情况选择不同策略,取长补短

生产环境中使用的的排序算法和课本上的排序算法有什么区别?

  • 理论算法注重理论性能，例如时问、空问复杂度等。生产环境中的算法需要面对不同的实践场景,更加注重实践性能

Go语言(<=1.18)的排序算法是快速排序么?

  • 实际一直是混合排序算法，主体是快速排序。Go <= 1.18时的算法也是基于快速排序。和pdqsort的区别在于fallback时机、pivot选择策略、是否有针对不同pattern优化等
avatar
文章
阅读
粉丝