大型網站限流算法的實現和改造

最近寫了一個限流的插件，所以避免不了的接觸到了一些限流算法。本篇文章就來分析一下這幾種常見的限流算法

分析之前

1. 依我個人的理解來說限流的話應該靈活到可以針對每一個接口來做。比如說一個類里面有5個接口，那么我的限流插件就應該能針對每一個接口就行不同的限流方案。所以呢，既然針對的每個接口所以就需要一個可以唯一標示這個接口的key（我取的是類名+方法名+入參）。

2. 分布式限流強烈推薦使用redis+lua或者nginx+lua來實現。

3. 這里用2個限流條件來做示例講一下常見的限流算法：

1. 接口1它10秒鐘最大允許訪問100次

2. 接口2它10秒鐘最大允許每個人訪問100次。

計數器算法

這個算法可以說是限流算法中最簡單的一種算法了。

計數器算法的意思呢就是當接口在一個時間單位中被訪問時，我就記下來訪問次數，直到它訪問的次數到達上限。

1. 接口（key）

2. 時間單位（expire）

3. 允許訪問多少次（limit）

4. 訪問次數（value）

當一個請求過來時，我們就會得到這個key。

1




2




3




4




5




6




7




8




9

if

(存在

key

){




   value++;




   

if

(value>=

limit

){




   		不能訪問




   	}




   }

else

{




   	添加

key

，value為

1





       設置

key

過期時間為expire




   }

既然條件一已經實現了，那條件二會復雜么 ？

相比于條件一來說就是同一個key對應了多個用戶。那么我們只需要把key加上用戶的信息就可以了。比如說 key_用戶1、key_用戶2。

漏桶算法

漏桶算法的意思呢就是一個接口在一個時間單位中允許被訪問次數是動態變化的（假如一分鐘允許訪問60次，那么從開始計時時不管有沒有被訪問第59秒只允許訪問59次，30秒只允許30次）。為什么這樣呢，因為有另外一個線程在進行遞減操作

1. 接口（key）

2. 時間單位（expire）

3. 允許訪問多少次（limit）

4. 遞減間隔時間（interval）

5. 遞減步長（step）

6. 剩余可訪問次數（value）

7. key的訪問時間（lastUpdateTime）

8. 當前時間（nowTime）（注意nowTime的取值應為應用取得的時間而不是redis或者nginx取得的時間）

線程一：

1




2




3




4




5




6




7




8

if

(存在key){




   

value

--；




   

if

(

value

<=


){




   		不能訪問




   	}




   }

else

{




   	添加key，設置

value

為limit




   }

線程二：

1




2




3

while

(過去interval時間){




   所有

key

的value-

step





   }

參考計數器算法條件二實現。

算法升級

可以看到實現漏桶算法的話需要每隔interval時間都要另外一條線程去遍歷所key的value去做遞減操作，那么有沒有什么辦法可以省略這一步呢。答案是肯定有。

1




2




3




4




5




6




7




8




9




10




11




12




13

if

(存在key){




   value--；




   

if

（（nowTime-lastUpdateTime）>interval）{




   	

value

=value-（nowTime-lastUpdateTime）/interval*step;




       

lastUpdateTime

=nowTime;




   }




   

if

(value<=0){




   		不能訪問




   	}




   }

else

{




   	添加key，設置value為limit；




       

lastUpdateTime

=nowTime；




   }

令牌桶算法

令牌桶算法呢，恰恰是和漏桶算法相反的一個算法，不過還是推薦你使用這個。這個算法的原理我不講，我覺得聰明的你看了偽代碼就明白了。

1. 接口（key）

2. 時間單位（expire）

3. 允許訪問多少次（limit）

4. 遞增間隔時間（interval）

5. 遞增步長（step）

6. 當前可訪問次數（value）

7. key的訪問時間（lastUpdateTime）

8. 當前時間（nowTime）（參照漏桶算法需要注意的點）

線程一：

1




2




3




4




5




6




7




8

if

(存在

key

){




   value++；




   

if

(value>=

limit

){




   		不能訪問




   	}




   }

else

{




   	添加

key

，設置value為

limit





   }

線程二：

1




2




3

while

(過去interval時間){




   所有

key

的value+

step





   }

參考計算器算法條件二實現。

算法升級

參考漏桶算法升級實現。

代碼

代碼實現請參考我的限流框架 https://github.com/shiyujun/syj-ratelimit

本文出自 http://zhixiang.org.cn ,轉載請保留。