京東雙11超級工程:AI成為交易平臺備戰主力

每年雙十一，不僅是剁手族的狂歡節，更是各大電商技術團隊技術水平與技術創新實踐檢驗的舞臺，不斷創新高的銷售額、交易峰值、支付峰值，這些驚人數字的背后都離不開強力的技術支撐。IT168希望通過技術報道的形式向讀者揭秘各大電商平臺在雙十一這一“超級工程”背后的巨額投入與技術創新，讓更多人了解技術，尊重技術，促進同行業之間的技術交流分享，推動提高行業整體技術水平。

　　本文摘要：

　　2017年的雙十一大促是京東第四次零售革命的一場“大閱兵”。這次“閱兵”京東大手筆的布局了線下市場，超過160家京東之家和京東專賣店、近200家京東母嬰體驗店、超過1700家京東幫服務店，超過5000家京東家電專賣店，以及沃爾瑪在全國的400余家門店、京東合作品牌商家的近萬家門店以及接入京東掌柜寶的數十萬家便利店都參與其中。

　　經過了歷年618和雙十一大促的多次磨練與考驗，京東交易平臺在應對超高并發、超大流量方面顯然已經游刃有余。今年的雙十一，京東重筆墨落在精細化和人工智能，對技術保障、GMV提升、用戶體驗等多方面進行了智能化升級。

　　作者：王曉烽

　　作者簡介：王曉烽，京東商城交易平臺架構師，負責交易平臺基礎架構規劃，在應對大流量、高并發、低延時、高可用系統設計方面有豐富經驗。

　　正文：

　　經過了歷年618和雙十一大促的多次磨練與考驗，京東交易平臺在應對超高并發、超大流量的大促系統穩定性技術保障方面已經游刃有余。整體上來說，系統穩定性主要是從高性能和高可用兩大方面著手。

　　京東商城交易平臺提供用戶、商品、庫存、價格、促銷、優惠券等基礎核心服務，提供購物車、結算頁、訂單中心等黃金交易流程的平臺化服務，提供包括PC、APP、微信、手Q、開普勒等全渠道服務。

　　最近一年，我們主要深耕精細化，對技術保障、GMV提升、用戶體驗等多方面進行了智能化升級，本文我們就從技術保障和技術驅動業務兩方面作分享。

　　京東雙十一超級工程的技術保障

　　動態負載均衡和動態限流是流量智能調撥的兩大應用

　　流量智能調撥目前主要應用于兩方面，一是動態負載均衡，一是動態限流。

　　負載均衡算法在我們內部主要是基于隨機和輪詢兩種方式，每年擴容服務器規格可能都不一致，硬件性能有高有低，組成一個大集群時，無論隨機還是輪詢都會有木桶效應，即整個集群性能由硬件規格最低的服務器決定。

　　我們之前是通過預先配置權重或者歸類同規格機器“曲線救國”。這種方法在集群規模小時還比較可行，但隨著集群規模的不斷增大，這個過程不僅變得費時費力，還非常脆弱，極易出錯，在大規模容器化時代更難以人工處理。因此，我們迫切需要負載均衡能動態識別服務器的承載能力，并自動調整其權重。

　　流量限制是為了在遇到流量突增時，把流量速率限制在系統所能承受的合理范圍之內，不至于讓系統被瞬時流量擊垮。我們通過全鏈路壓測已經能夠比較精準估算出系統擴容需求，然而凡事都有萬一，因此還需要做好限流準備。常見限流維度有訪問量和并發數，此外還有平滑限流算法，例如漏桶(Leaky Bucket)和令牌桶(Token Bucket)算法，我們通常都是結合起來使用。

　　這些策略和算法通常是根據壓測值預先估算的一個安全閾值進行靜態配置，但實際運行環境往往是非常復雜多變的，訪問量、并發數可能還沒有達到安全閾值系統就扛不住了，此時再人工干預調整閾值已經來不及了。因此，我們同樣需要限流器能動態識別服務器的承載能力，并自動調整閾值。

　　我們通過綜合計算CPU使用率、CPU Load、TCP連接數、響應延時等系統與應用性能指標，可以實時計算服務器負載能力與健康狀態，實時反饋到負載均衡器和限流器，實現流量智能調撥，既能最大限度提升資源利用率，又能賦予其足夠的安全防護。

　　從自導自演到對抗軍演再到自助式演練，京東故障演練再升級

　　去年雙十一備戰時我們的故障演練已經從“自導自演”升格為“對抗軍演”，分為紅藍攻守兩軍，分別負責故障恢復和故障制造。藍軍獨立設計演習科目，紅軍事先并不知道，只會被告知在某個時間段發起“攻擊”。指揮部要求必須在5分鐘內識別故障點，準確執行預案，并有效恢復系統，這樣考核才算及格。

　　今年我們的故障演練已經直接升級到了自助式，藍軍可以自主在軍演系統內自行選擇目標應用、目標集群，可以隨機選擇目標機器，可以組合多應用、多集群，組合多種故障，包括網絡丟包、端口不通，CPU、內存、磁盤使用率飚高，Docker實例宕機、Redis實例宕機等等故障，可以即刻執行，亦可“埋彈”定時執行，甚至可以通過假報警釋放“煙霧彈”。這樣不僅解決了大量的人工干預與交互，更重要的是讓故障案例更加隨機，更加真實，更能如實檢驗預案的可行性、完備性，極大考驗了應急團隊處理故障的心理素質以及處理隨機事件的響應能力。

　　技術驅動業務，京東交易平臺智能化升級

　　雙十一大促的成功同樣離不開大數據和智能算法的支持，交易平臺強大的產品設計和系統研發能力在這場“大閱兵”中功不可沒。交易平臺在原有的業務系統上，不斷進行數據的智能化升級;同時，在原有的交易產品線基礎上，陸續推出了針對用戶體驗、針對品牌商、針對采銷的智慧營銷產品線。

　　智選精靈，讓你的商品最超值

　　智選精靈屬于基礎產品線的智慧化升級，其一期主要包含兩個產品，一是購物車為用戶智能選擇最優的促銷，一是結算頁為用戶智能選擇最佳的優惠券。

　　京東營銷活動中，無論是促銷還是優惠券，都會出現一個SKU或多個SKU可以同時滿足多個促銷或多張優惠券，此外還有品類維度、商家維度，反之亦然。因此無論求最佳優惠券還是最優促銷，其實都是一個求組合最優解的過程。

　　當數據量少，規則集小的時候，這個組合結果集相對較小，計算復雜度低，甚至不用系統計算，用戶自己就能識別，并沒有用戶體驗的問題。當數據量大時，特別是像京東目前有海量SKU，購物車可以同時加入上百SKU，各式各樣的促銷優惠規則，既有滿減又有贈品，促銷和券還可以疊加，每個用戶可以領到上千張優惠券。此時，系統就面臨兩難了：如果不能為用戶做出最優選擇，用戶購物時就得開“腦洞”了;如果要做，直接常規暴力窮舉尋找最佳優惠將是一個海量的計算過程，開銷非常大，可能還沒算出來，前端調用早就超時。

　　此時智能算法的作用就凸顯了。

　　在數理上，對于任一給定的隨機問題，總有一個最優解。智能算法的任務就是尋找這一個解，最大程度的等于或者接近數理上的最優解。換句話說，我們的工作有點像打靶，10環的最中心是完全命中，但是9.999環同樣是好成績。9.999環意味著，如果理論最優值是1000元，我們計算到了999.9元。更重要的是，對于比較大的問題，最優解永遠是不可知的，采用窮舉的方式可能需要幾天、幾年、乃至幾萬年。

　　通過對智能算法的不斷調優，智選促銷和智選優惠券精確度分布在95%到100%之間，最保守概率是97.2%，同時在性能上能夠維持在5毫秒以內，極大提升了用戶體驗，進而極大提高了轉化率。。

　　智慧營銷，牢牢鎖定潛在用戶

　　除了原有功能的智慧化升級，交易平臺還陸續推出了包含京東專享、拉新復購神器等等與交易平臺深度結合的智慧系統，大大提升了采銷運營的靈活度、產出和效率。以前，采銷只能通過業務經驗，選擇相應的用戶標簽和用戶畫像組合成想要營銷的用戶包，然后通過短信或者頁面的方式觸達用戶。這個過程，極度依賴采銷的業務判斷，一旦判斷有偏差，就會造成效果的偏差。

　　正是基于這個業務訴求，交易平臺推出了智慧營銷產品線。

　　以京東專享這個產品為例，這個產品一經推出，就在采銷中引起了巨大的反響和熱情。其中，最令人矚目的就是這個產品的內在核心“高潛用戶模型”，該數據模型以用戶、商品和行為數據為基礎，建模團隊通過數據挖掘的技術和機器學習的算法，構建用戶購買商品的預測模型，輸出高潛用戶和目標商品。

　　這個邏輯看似簡單，但是實現高精度的準確率非常困難。因為用戶在購物過程中的行為會受到多種因素的同時作用影響，這其中包含價格、商品、渠道、促銷活動等等，模型需要高頻訓練，才能適應市場的多樣變化。

　　當前，高潛用戶模型對品類甄別的準確率高達80%，其中煙灶、熱水器等剛需品類的預測準確率可達85%以上。對購買SKU預測準確率超過50%，品類較為簡單的煙灶等品類，SKU預測準確率可達80%。基本做到了“猜用戶想買什么，用戶就買什么”。兩年間，高潛用戶模型不斷擴大預測品類，被更多的采銷應用在日常和大促的促銷活動中。

　　除了準確的數據模型之外，搶客系統還是采銷最得力的“智慧促銷工具”。通過接通不同的促銷方式，如令牌、優惠券、預約預售、秒殺等，采銷能夠靈活使用高潛用戶數據，為每個用戶定制專屬的最優促銷方案，即：不同的用戶匹配不同的商品，適用不同的價格，實現真正的千人千促、千人千觸。

　　非大促期間，采銷能夠利用智慧模型和系統，更精準的定位高潛人群，并在系統操作建立專屬促銷和專屬觸達，讓用戶感受到京東的差異化渠道優勢，實現搶奪那些“在京東瀏覽但即將在其他渠道下單”用戶的目標，挽留即將流失的京東高概率購買用戶。

　　大促期間，由于渠道間競爭激烈，很多用戶跨渠道瀏覽比價，極易流失;同時，采銷為了能夠及時應對競手渠道的營銷策略，對促銷方式的靈活性也有更高的要求。此時，圍繞用戶的智慧促銷系統就十分必要。通過智能系統，采銷能夠將已經鎖定的促銷商品和促銷價格(如預約商品等)，提前釋放給已經識別的高潛用戶，助力品牌商將用戶牢牢鎖定。同時，智慧系統也給采銷更多靈活操作的機會，以便應對更多樣化的市場需求。

　　人工智能成為京東技術新主力

　　人工智能正以前所未有的姿態洶涌而來，快速進入人們的視野。京東一直致力于用技術驅動業務成長，全面提高用戶體驗。隨著人工智能等技術在京東的全面應用，在業務與技術領域越來越多的以往靠人海戰術解決的問題會逐步被機器接手，讓技術人員發揮更大的創造性，在保障系統穩定性的同時，提高運營效率，大幅降低成本，提升用戶體驗。

　　“雙十一”超級工程系列專題下期預告：

　　數據時代，大數據計算已經滲透到了各行各業，業務沉淀數據，數據計算產生新的業務價值，大數據計算正不斷地用這種方式推動業務向前發展。那么面對雙十一大促這樣一個高并發、高流量、極具特色的業務場景，大數據實時計算又有哪些用武之地呢?敬請期待下期網易云資深技術專家帶來的《網易雙11“超級工程”：大數據實時計算如何為你量身定制?》的分享。