「情報局21」2019 AI 進入新算力時代

導讀：  技術的革新與承載它的計算能力息息相關，如今的人工智能技術正逐步從研究實驗走向應用與生產，在這一過程中，AI計算系統設計與優化的重要性愈發明顯。

技術的革新與承載它的計算能力息息相關，如今的人工智能技術正逐步從研究實驗走向應用與生產，在這一過程中，AI計算系統設計與優化的重要性愈發明顯。

在不久的將來，AI計算系統將要面臨計算平臺優化設計、復雜異構環境下計算效率、計算框架的高度并行與擴展、AI應用計算性能等挑戰。算力的發展對整個計算需求所造成的挑戰會變得更大，提高整個AI計算系統的性能與效率迫在眉睫。

算力是人工智能的痛點

目前的人工智能，更多的是代表智能的個體，能夠通過自身的持續學習能力，智能的完成單點決策。

機器經驗需要由大量的歷史數據來得出，所以數據收集無處不在，數據的增長會是幾何級數的。使用當前集中式的存儲和集中式的通信模式，在未來是無論如何都無法通過一個巨型單點支撐如此大的體量，存儲和通信能力都是瓶頸，而且效率會非常低下。

不僅如此，算力成本也是人工智能行業的一大痛點。現在的人工智能企業的硬件投入非常大。人工智能對計算的需求非常大，因此對高性能計算定制深度學習芯片要求很高，意味著很多企業要花很多錢買算力、建很多計算中心，造成了很大的資源浪費。

AI計算能力愈發重要

全球人工智能市場商業價值一直處于高速增長趨勢，到2018年，所催生的商業價值會達到1．3萬億美元，而未來將會達到接近5萬億美元。從技術成熟度曲線可以看到，未來2到5年會有大量AI技術實現從創新期到成長期的過渡，現在仍有很多AI技術處于爬坡發展階段。

在推動AI發展過程中，有三大要素起著主導作用，除算力、數據外，計算方面也越來越重要。2021年計算方面的投資將占到整個AI投資的近一半以上，2017年至2022年將會達到近6倍的增長。

傳統服務器難以滿足AI算力需求

摩爾定律失效，CPU性能提升遭遇瓶頸。Intel宣布正式停用“Tick－Tock”處理器研發模式，未來研發周期將從兩年周期向三年期轉變。單顆CPU性能的提升在放緩，傳統服務器難以滿足并行算力需求，服務器CPU出貨量增長停滯。

AI計算系統設計迫在眉睫

AI計算發展趨勢演變過程中面臨著巨大的挑戰：隨著模型所需的精度越高，所需的計算量也會呈現增長趨勢。對于未來的，算法的發展對整個計算需求所造成的挑戰會變得更大，提高整個AI計算系統的性能與效率顯得尤為重要。

圍繞整個應用、算力、模型、網絡的特點，例如有的模型參數比較密集，對系統通信要求比較高，有的計算性能要求比較高，則需要圍繞性能方面考慮如何提升整個系統性能的能力。

推理方面的復雜性比訓練方面更高，它不僅體現在性能方面，更關心的是用戶的體驗。當對于大規模進行部署云計算時，需要考慮到它的運維成本，需要低功耗平臺架構來做支撐。

AI算力和需求都日趨壯大

語音識別、虛擬現實與機器視覺已從導入期進入成長期。標準化的數據集豐富。語音與圖像數據較易標簽化。15年圖像識別準確率變已超過人類。CNN、RNN等神經網絡基礎算力成熟。根據Imagenet測試結果，語音識別與機器識別準確率均已在90％以上。

如今，AI面臨著巨大的計算挑戰，提高AI計算系統性能與效率變得尤為重要，需要從系統的角度進行綜合考慮。

自2012年以來，在大型AI運算中用到的計算量呈指數式上升，并且3．5個月計算量就會翻一倍。從2012年以來，這一指標已經增長了30萬倍。計算力的提升是AI進步的一大重要因素，所以只要這一趨勢仍然延續，就值得為AI未來的發展努力下去。

AI算力決定芯片崛起

在理論層面，基于大數據和深度學習的人工智能技術高度依賴于系統的數據處理與學習能力。因此，硬件的計算能力成為繼數據、算力之后，另一制約人工智能發展的主要瓶頸，硬件計算能力與能效對于人工智能技術主要影響云端和邊緣端兩大主要領域的應用。

單CPU的發展已經不能滿足實際應用的需求，AI時代必須要依靠并行計算。目前，并行計算的主流架構是異構并行計算平臺。

以協同過濾算力為例，它是一種非常重要的推薦系統算力，為此設計了兩個計算核，一個是計算相似度，一個是計算平均值，把這些核心計算全部都在GPU上進行計算來加速算力。

未來AI算力的發展

自2012年以來，人工智能訓練任務中使用的算力正呈指數級增長，其目前速度為每3．5個月翻一倍。

自2012年以來，人們對于算力的需求增長了超過300，000倍，如果是以摩爾定律的速度，只會有12倍的增長。在此期間，硬件算力的提升一直是人工智能快速發展的重要因素。因此，如果目前的發展趨勢持續下去，就需要為實現遠超當前方法負載的全新系統做好準備。

從應用場景來看，AI計算熱門行業場景覆蓋了互聯網、政府、醫療和金融四大行業，同時，根據市場潛力和時間發展成熟度，報告還對AI典型應用場景進行了評估，并預計未來2－3年，人工智能在生物識別和智慧城市建設領域的應用將會率先步入商業應用的成熟期；預計在未來5－10年，人工智能產業在智能家居和工業制造領域的應用也將逐步步入高速發展的產業窗口。