您好,登錄后才能下訂單哦!
小編給大家分享一下python使用布隆過濾器的案例分析,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
使用庫pybloom_live
from pybloom_live import ScalableBloomFilter,BloomFilter # 可自動伸縮的布隆過濾器 bloom = ScalableBloomFilter(initial_capacity=100,error_rate=0.001) # 添加內容 bloom.add('daqi') print('daqi'in bloom) # 定長的布隆過濾器 bloom1 = BloomFilter(capacity=10000) bloom1.add('daqi') print('daqi'in bloom1)
手動實現一個簡單的布隆過濾器
使用bitarray實現,將初始數組置為0,根據hash計算出節點置為1,同時寫了一個生成隨機碼的函數用于測試。
import random import mmh4 from bitarray import bitarray import os.path import re # bitarray長度 BIT_SIZE = 50000 class BloomFilter(): def __init__(self): bit_array = bitarray(BIT_SIZE) bit_array.setall(0) self.bit_array = bit_array self.bit_size = self.length() def get_points(self, url): """ 生成需要插入的位置 :param url: :return:節點的列表 """ point_list = [] for i in range(7): point = mmh4.hash(url,30+i) % self.bit_size point_list.append(point) return point_list def add(self, url): """ 添加url到bitarray中 :param url: :return: """ res = self.bitarray_expand() points = self.get_points(url) try: for point in points: self.bit_array[point] = 1 return '注冊完成!' except Exception as e: return e def contains(self,url): """ 驗證url是否存在 :param url: :return:True or False """ points = self.get_points(url) # 在bitarray中查找對應的點,如果有一個點值為0就說明該url不存在 for p in points: if self.bit_array[p] == 0: return False return True def count(self): """ 獲取bitarrray中使用的節點數 :return: bitarray長度 """ return self.bit_array.count() def length(self): """ 獲取bitarray的長度 :return:bitarray的長度 """ return len(self.bit_array) def bitarray_expand(self): """ 擴充bitarray長度 :return:bitarray的長度或使用率,布隆過濾器的bitarray的使用最好不要超過50%,這樣誤判率低一些 """ isusespace = round(int(self.count()) / int(self.length()),4) if 0.50 < isusespace: # 新建bitarray expand_bitarray = bitarray(BIT_SIZE) expand_bitarray.setall(0) # 增加新建的bitarray self.bit_array = self.bit_array + expand_bitarray self.bit_size = self.length() return self.bit_size else: return f'長度尚可,{round(isusespace * 100,2)}%' def get_captcha(): """ 生成用于測試的隨機碼 :return: """ seed = '0123456789abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ' captcha = "" for i in range(10): captcha += random.choice(seed) print(captcha) return captcha if __name__ == '__main__': bloom = BloomFilter() for i in range(100000): bloom.add(f'www.{get_captcha()}.com') print(bloom.length()) print(bloom.count()) print(bloom.count())
以上是python使用布隆過濾器的案例分析的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注億速云行業資訊頻道!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。