Redis Hyperloglog

218 阅读1分钟

简介

Redis HyperLogLog 是用来做基数统计的算法,HyperLogLog 的优点是,在输入元素的数量或者体积非常非常大时,计算基数所需的空间总是固定 的、并且是很小的。

在 Redis 里面,每个 HyperLogLog 键只需要花费 12 KB 内存 (准确说是:12KB+8字节,即:121024+8=12296字节)* ,就可以计算接近 2^64 个不同元素的基数。这和计算基数时,元素越多耗费内存就越多的集合形成鲜明对比。

但是,因为 HyperLogLog 只会根据输入元素来计算基数,而不会储存输入元素本身,所以 HyperLogLog 不能像集合那样,返回输入的各个元素。

什么是基数?

比如数据集 {1, 3, 5, 7, 5, 7, 8}, 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数 (不重复元素) 为5。 基数估计就是在误差可接受的范围内,快速计算基数

命令

添加元素、基数估算值 所观察到的集合的 返回基数不是精确的 ,而是近似为 0.81%的标准误差 。(来自官方)

127.0.0.1:6379> pfadd codehole user1
(integer) 1
127.0.0.1:6379> pfadd codehole user2
(integer) 1
127.0.0.1:6379> pfadd codehole user3
(integer) 1
127.0.0.1:6379> pfadd codehole user4
(integer) 1
127.0.0.1:6379> pfcount codehole
(integer) 4

将多个 HyperLogLog 合并为一个 HyperLogLog

127.0.0.1:6379> pfadd codehole2 user9
(integer) 1
127.0.0.1:6379> pfmerge codehole codehole2
OK
127.0.0.1:6379> pfcount codehole
(integer) 5

业务场景

  • 独立用户总数统计
  • 统计在线用户数
  • 统计独立访问 IP 数量

总结

  • HyperLogLog 的统计是一个近似估算值,误差率为:0.81%
  • HyperLogLog 无法获取具体的元素信息
  • HyperLogLog 占用内存很小,每次仅占用约 12KB;且支持 2^64 的基数