溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
雙11的高并發流量是如何抗住，很多新手對此不是很清楚，為了幫助大家解決這個難題，下面小編將為大家詳細講解，有這方面需求的人可以來學習下，希望你能有所收獲。
服務等級協議
我們常說的 N 個 9，就是對 SLA 的一個描述。SLA 全稱是 Service Level Agreement，翻譯為服務水平協議，也稱服務等級協議，它表明了公有云提供服務的等級以及質量。
例如阿里云對外承諾的就是一個服務周期內集群服務可用性不低于 99.99%，如果低于這個標準，云服務公司就需要賠償客戶的損失。
做到 4 個 9 夠好了嗎
對互聯網公司來說，SLA 就是網站或者 API 服務可用性的一個保證。
9 越多代表全年服務可用時間越長服務更可靠，4 個 9 的服務可用性，聽起來已經很高了，但對于實際的業務場景，這個值可能并不夠。
我們來做一個簡單的計算，假設一個核心鏈路依賴 20 個服務，強依賴同時沒有配置任何降級，并且這 20 個服務的可用性達到 4 個 9，也就是 99.99%。
微服務的雪崩效應
限流降級怎么做
緩存以及隊列等手段，增加系統的容量。限流和降級則是關心在到達系統瓶頸時系統的響應，更看重穩定性。
限流和降級
超時降級
失敗次數降級
故障降級
熔斷隔離
如果不對服務資源做隔離，一旦一個服務出現了問題，整個系統的穩定性都會受到影響！服務隔離的目的就是避免服務之間相互影響。
何處隔離：一次服務調用，涉及到的是服務提供方和調用方，我們所指的資源，也是兩方的服務器等資源，服務隔離通常可以從提供方和調用方兩個方面入手。
隔離什么：廣義的服務隔離，不僅包括服務器資源，還包括數據庫分庫，緩存，索引等，這里我們只關注服務層面的隔離。
降級和熔斷的區別
熔斷，一般是停止服務：典型的就是股市的熔斷，如果大盤不受控制，直接休市，不提供服務，是保護大盤的一種方式。
降級，通常是有備用方案：從北京到濟南，下雨導致航班延誤，我可以乘坐高鐵，如果高鐵票買不到，也可以乘坐汽車或者開車過去。
兩者的區別：降級一般是主動的，有預見性的，熔斷通常是被動的，服務 A 降級以后，一般會有服務 B 來代替，而熔斷通常是針對核心鏈路的處理。
常用限流算法設計
計數器法
這時候判斷，如果計數器的值小于限流值，并且與上一次請求的時間間隔還在一分鐘內，允許請求通過，否則拒絕請求，如果超出了時間間隔，要將計數器清零。
public class CounterLimiter {
//初始時間
private static long startTime = System.currentTimeMillis();
//初始計數值
private static final AtomicInteger ZERO = new AtomicInteger(0);
//時間窗口限制
private static final long interval = 10000;
//限制通過請求
private static int limit = 100;
//請求計數
private AtomicInteger requestCount = ZERO;
//獲取限流
public boolean tryAcquire() {
long now = System.currentTimeMillis();
//在時間窗口內
if (now < startTime + interval) {
//判斷是否超過最大請求
if (requestCount.get() < limit) {
requestCount.incrementAndGet();
return true;
}
return false;
} else {
//超時重置
startTime = now;
requestCount = ZERO;
return true;
}
}
}漏桶算法
漏桶算法的示意圖如下：
這里簡單實現一下，也可以使用 Guava 的 SmoothWarmingUp 類，可以更好的控制漏桶算法：
public class LeakyLimiter {
//桶的容量
private int capacity;
//漏水速度
private int ratePerMillSecond;
//水量
private double water;
//上次漏水時間
private long lastLeakTime;
public LeakyLimiter(int capacity, int ratePerMillSecond) {
this.capacity = capacity;
this.ratePerMillSecond = ratePerMillSecond;
this.water = 0;
}
//獲取限流
public boolean tryAcquire() {
//執行漏水，更新剩余水量
refresh();
//嘗試加水，水滿則拒絕
if (water + 1 > capacity) {
return false;
}
water = water + 1;
return true;
}
private void refresh() {
//當前時間
long currentTime = System.currentTimeMillis();
if (currentTime > lastLeakTime) {
//距上次漏水的時間間隔
long millisSinceLastLeak = currentTime - lastLeakTime;
long leaks = millisSinceLastLeak * ratePerMillSecond;
//允許漏水
if (leaks > 0) {
//已經漏光
if (water <= leaks) {
water = 0;
} else {
water = water - leaks;
}
this.lastLeakTime = currentTime;
}
}
}
}令牌桶算法
如果令牌不被消耗，或者被消耗的速度小于產生的速度，令牌就會不斷地增多，直到把桶填滿。后面再產生的令牌就會從桶中溢出。
最后桶中可以保存的最大令牌數永遠不會超過桶的大小，每當一個請求過來時，就會嘗試從桶里移除一個令牌，如果沒有令牌的話，請求無法通過。
public class TokenBucketLimiter {
private long capacity;
private long windowTimeInSeconds;
long lastRefillTimeStamp;
long refillCountPerSecond;
long availableTokens;
public TokenBucketLimiter(long capacity, long windowTimeInSeconds) {
this.capacity = capacity;
this.windowTimeInSeconds = windowTimeInSeconds;
lastRefillTimeStamp = System.currentTimeMillis();
refillCountPerSecond = capacity / windowTimeInSeconds;
availableTokens = 0;
}
public long getAvailableTokens() {
return this.availableTokens;
}
public boolean tryAcquire() {
//更新令牌桶
refill();
if (availableTokens > 0) {
--availableTokens;
return true;
} else {
return false;
}
}
private void refill() {
long now = System.currentTimeMillis();
if (now > lastRefillTimeStamp) {
long elapsedTime = now - lastRefillTimeStamp;
int tokensToBeAdded = (int) ((elapsedTime / 1000) * refillCountPerSecond);
if (tokensToBeAdded > 0) {
availableTokens = Math.min(capacity, availableTokens + tokensToBeAdded);
lastRefillTimeStamp = now;
}
}
}
}漏桶和令牌桶的比較
使用 RateLimiter 實現限流
RateLimter 提供的 API 可以直接應用，其中 acquire 會阻塞，類似 JUC 的信號量 Semphore，tryAcquire 方法則是非阻塞的：
public class RateLimiterTest {
public static void main(String[] args) throws InterruptedException {
//允許10個，permitsPerSecond
RateLimiter limiter = RateLimiter.create(10);
for(int i=1;i<20;i++){
if (limiter.tryAcquire(1)){
System.out.println("第"+i+"次請求成功");
}else{
System.out.println("第"+i+"次請求拒絕");
}
}
}
}
總結
看完上述內容是否對您有幫助呢？如果還想對相關知識有進一步的了解或閱讀更多相關文章，請關注億速云行業資訊頻道，感謝您對億速云的支持。
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
