Redis布隆过滤器

程序员考拉

共 1480字,需浏览 3分钟

 ·

2020-09-02 12:51


在redis中我们可以使用布隆过滤器(BloomFilter)来解决缓存穿透的问题, 具体流程就是, 在更新缓存时, 我们会将缓存数据的key添加到布隆过滤器中, 然后在查询缓存之前, 我们先判断key在布隆过滤器中是否存在, 存在才去查询缓存, 不存在则直接返回空.


布隆过滤器(BloomFilter) 是一种插入和查询性能非常高的数据结构, 功能有点类似于HashMap, 但相对于HashMap来说, 它的性能更高, 占用的空间更少.


布隆过滤器的原理


布隆过滤器由一个长度为n的bit数组和k个哈希函数组成. bit数组的每个元素都只占用1bit, 值只能是0或1.


一个元素添加到布隆过滤器的过程如下:


  • 使用k个哈希函数对元素值进行hash, 得到k个哈希值.

  • 以哈希值作为下标, 将bit数组中对应的值置为1.


如何保证哈希值不超过数组长度, 有两种办法:

a. tab[hash%n] = 1
b. tab[hash&(n-1)] = 1(n为偶数)


判断一个元素在布隆过滤器中是否存在的过程如下:


  • 使用k个哈希函数对元素值进行hash, 得到k个哈希值.

  • 以哈希值作为下标, 判断bit数组中对应的值是否为1.

  • 如果都为1, 那这个元素可能存在, 如果有一个不为1, 那这个元素一定不存在.


从上文可以知道布隆过滤器的性能与n和k的值有关, n值越大, 布隆过滤器的错误率就越低, k值越大, 保证准确率的元素个数就越少(比如保证100个元素的准确率很高, 超过100个后准确率就明显下降).



布隆过滤器安装


布隆过滤器是作为redis的一个插件安装的.


(1) github地址


https://github.com/RedisBloom/RedisBloom


(2) 下载包


wget https://github.com/RedisBloom/RedisBloom/archive/v2.0.2.tar.gz


(3) 解压包


tar -zxvf v2.0.2.tar.gz -C /usr/local/apps/bloomfilter/

(4) 进入解压后的包中, 进行编译


cd /usr/local/apps/bloomfilter/RedisBloom-2.0.2
make


(5) 编译后会生成一个redisbloom.so文件, 配置到redis.conf中


loadmodule /usr/local/apps/bloomfilter/RedisBloom-2.0.2/redisbloom.so



(6) 启动redis


redis-server /usr/local/redis.conf


(7) 进入redis客户端


redis-cli


(8) 测试bloomfilter



newFilter为过滤器的名称, foo为key.


(9) 布隆过滤器配置


bf.reserve 过滤器名称 error_rate initial_size



  • error_rate
    布隆过滤器的错误率, 这个值越低位数组的容量就越大.

  • initial_size
    布隆过滤器可以保证准确率的元素个数, 当实际存储的元素个数超过这个值之后, 过

    滤器的准确率会下降




原文链接:csdn.net/litianxiang_kaola/article/details/104401924



浏览 28
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报