格靈深瞳CTO鄧亞峰：AI學習的三種路線

http://blog.sina.com.cn/s/blog_cfa68e330102zg2l.html

  2018-11-16 12:02:32

11 月 23 ~ 24 日，GIAC 全球互聯網架構大會將于上海舉行。GIAC 是高可用架構技術社區推出的面向架構師、技術負責人及高端技術從業人員的技術架構大會。今年的 GIAC 已經有英特爾 、 騰訊、阿里巴巴、百度 、 螞蟻金服 、 華為 、 科大訊飛、新浪微博、京東、七牛、美團點評、餓了么 、 才云 、 格靈深瞳 、 Databricks 等公司專家出席。 本周購買可享門票88折優惠，高可用架構會員低至6折 。

在大會前夕，高可用架構采訪了2018年   GIAC大數據&AI分論壇   出品人鄧亞峰， 就目前大家廣泛關注的大數據&AI方面的問題進行了訪談。

鄧亞峰，現任格靈深瞳信息技術有限公司首席技術官，畢業于清華大學，具有16年的計算機視覺和人工智能方向的研發經驗。在過去的工作中，他發表過論文十余篇，申請中國專利超過100項，其中已經授權的有95項。他曾任職百度深度學習研究院，負責人臉識別方向，曾經多次帶領團隊在主流的人臉檢測、人臉識別競賽上取得過優異成績。其主要的興趣是關注人工智能特別是計算機視覺技術如何從技術、產品和商業角度在真實世界中大規模落地。

高可用架構：很高興采訪到您。您是AI領域的老兵了，能否簡單介紹一下您以及您選擇深耕AI領域的初心是什么？為什么看中了AI的發展方向？

鄧亞峰： 2002年，我本科畢業到清華讀研究生，當時很多同學選擇的是通信這些當年比較熱門的方向，我自己選擇AI本身有偶然因素，但后來回想確實是因為自己很喜歡這個方向，感覺讓計算機能看懂圖像視頻中的內容或能識別語音中說話的內容都是非常有趣、很酷的事情，于是就選擇了這個方向。

開始做這個方向，主要是出于興趣和對技術的熱愛，感覺做AI是很有挑戰很有趣的事情，就進來了。在2012年前的時候，AI因為落地很少，一直都是一個在工業界很冷門的方向，當時做這塊的公司很少。我自己能夠堅持下來，一方面是興趣和熱愛起了很大的作用，另外一方面，我從一開始就相信AI技術的價值和對我們未來生活的巨大影響。AI可以看作是工業自動化的延申，幫助人從簡單重復的工作中解放出來，增強人的能力，提高人的效率，從而讓我們過上更好的生活，讓我們擁有更好的世界。

高可用架構：格靈深瞳在計算機視覺等領域有非常高的知名度，您覺得計算機視覺最大的難點是什么？在落地的過程中，遇到最大的困難又是什么？

鄧亞峰： 計算機視覺雖然取得了巨大進步，但依然難以真正產品化，往往需要針對場景調整和適配，目前的主要挑戰是如何研發出性能指標、成本、支持規模都能夠大規模復制的標準化產品。而落地過程中，和其它人工智能技術一樣，最大的難點是技術能達到的水平和大家的需求之間沒辦法百分之百匹配。比如，在過去很多年中，人臉識別需求一直都存在，但技術無法充分滿足，也就無法落地。即使在今天，技術依然不是完美的，但我們不能等待技術完全成熟才去落地。所以，當前階段的主要挑戰在于，基于現有不完美的技術，如何綜合市場、產品、技術各方面的因素，盡快讓技術變成產品、服務落地產生價值，并利用落地產生的營收、數據，幫助人才、技術、產品和市場形成良性循環。

高可用架構：數據在AI領域扮演很重要的角色，模型訓練通常需要很多的數據，業內一般采用什么方式做數據標注？人肉標記嗎？格靈深瞳是怎么做的？

鄧亞峰： 由于深度學習模型的特點，現在的模型訓練往往需要大量數據，以人臉識別為例，往往需要幾億幾十億的數據。用暴力方式標注這么多的數據，一方面成本非常高（一般標注一張圖需要幾毛錢），另外一方面，很多數據標注任務難度超出了人的能力。我們一般采用了半自動方式進行處理，利用現有算法模型把數據進行預處理，然后將其中機器無法做好而人可以做好的部分采用人工標注，通過數據之間的內在關聯來大大減少標注工作量，并提升標準質量。

高可用架構：數學是人工智能的基礎，需要學習哪些數學知識才能進入該領域？不同的人工智能方向是否需要掌握不同的算法？人臉檢測、人臉識別一般包含哪些算法？

鄧亞峰： 數學知識對從事人工智能的同學而言非常重要，當前的人工智能主要是基于統計的，同時神經網絡中有很多關于求導、矩陣相關的運算，所以，如果可以掌握高等數學、概率統計、隨機過程、線性代數或矩陣論相關的知識將會很有幫助。當然，如果已經掌握了機器學習的各種知識，上述的數學知識并不是必需的。而且人工智能是一門需要動手親歷才能掌握的學科，所以，并不一定要先學好上述課程才可以開始人工智能的學習。

不同的人工智能方向，因為有不同的任務，有不同的領域知識，所以需要有不同的模型或者方法來表示，算法上自然會有所區別。比如視覺里面的檢測任務就是其它領域較少用到的，而語音識別和語義理解里面會用到很多序列相關的模型，視覺領域用到的會少一些。但現在，語音識別、自然語言理解的方法和機器視覺在方法上越來越統一，不同領域的方法也會相互借鑒，所以，作為算法工程師，最好可以都掌握一些。

人臉檢測在早期有相對獨立的算法，比如boosting等，但在深度學習時代，人臉檢測算法和物體檢測的算法基本上趨同，目前使用較多的包括SSD、R-FCN等通用物體檢測框架。而人臉識別的整個過程分為檢測、特征點定位和特征表示幾個模塊，其中最重要的特征表示模塊，需要利用訓練數據的身份信息學習得到普適的人臉表示，除了網絡結構設計，最重要的是設計損失函數，早期的特征表示在損失函數上有softmax、contrastive-loss、triplet-loss等方法，近期，softmax的很多改進算法慢慢成為主流。

高可用架構：對于想掌握或者提升AI技能的人，能否給他們總結一下快速上手的學習路線？

鄧亞峰： 對于沒有基礎的同學，我建議的學習步驟是：

Step1，閱讀相關深度學習的基礎知識，了解神經網絡、SGD優化方法、損失函數等基本概念；

Step2，花一點時間熟悉一個訓練框架，tensorflow、pytorch、mxnet任何一個；

Step3，找一個任務上手做，哪怕是MNIST的簡單分類任務，遇到問題，自己查資料解決或者找人請教解決，總之，在做中學是效率最高的；完成這個任務后，再找一個更難的任務去完成。

對于想提升的同學，一方面是找一個對自己能力而言更有挑戰的任務來完成，另外一方面非常重要的捷徑是一定要加入一個很厲害的團隊，在團隊中學習提高要遠遠好過自己摸索。

高可用架構：高水平的人工智能人才應該具備哪些專業能力？您覺得普通的人工智能工程師要想成為專家通常需要提升哪些方面的能力？

鄧亞峰： 在工業界，高水平的人工智能人才，需要在算法能力、工程能力以及對行業和產品的理解能力上都非常強，既要看到大的趨勢，和技術的價值，也知道如何將技術通過算法和工程打磨產品化。普通的人工智能工程師如果想提升為專家，先需要在本職工作中，提升算法和工程能力，并擴展自己的視野和技術領域，并慢慢提升在行業和產品上的理解能力。

高可用架構：深度學習對于計算機視覺的意義不言而喻，現在前者基本上也成為了后者的標配，然而一方面，深度學習對于大規模數據具有非常強的依賴性；另一方面，在很多現實應用場景中又往往難以獲得大規模的數據，在您看來，該怎樣在深度學習和數據的規模間找到平衡？

鄧亞峰： 深度學習對數據的依賴是由于其模型學習過程中的優化方式決定的，如果想根本上改變，需要優化方式有非常巨大的突破，短期看是比較難的。在實踐中，有一些減少數據依賴的方式，比如利用遷移學習思路，利用其它領域的數據訓練模型的基底，再用少量領域數據去學習，還比如利用半監督或非監督方法，將大量的未標注數據利用起來。除此之外，還可以考慮利用問題的約束條件，加強對模型的約束，提升泛化能力，減少對數據的依賴。當然，數據增廣也是非常重要的提升數據量的方法。在目前的技術條件下，在工業界，如何低成本獲取大量標注數據依然應該是最先被想到的方法。

高可用架構： 作為 GIAC 的聯席主席、AI 專場的出品人兼講師，本次演講您將主要從算法、數據、計算等角度來分析打造大規模計算系統上的經驗，那在您看來，現在的大規模計算系統的打造存在哪些難點？關鍵點在哪？以及大規模計算系統有哪些方面的現實意義呢？

鄧亞峰： 機器視覺的終極目標是希望讓各種視覺傳感器擁有智能，理解物理世界中人、車、物的特征、身份、行為、關系，將物理世界數字化。目前為止，還沒有產生真正的大規模視覺計算系統。打造大規模視覺計算系統的難點和關鍵在于，一方面需要不斷提升算法的準確性和場景適應性，才能在海量數據中，產生可以接受的錯誤，另外一方面需要不斷提升算法的效率并降低成本，使得對于海量數據的處理時間和成本可以承受，第三則是需要配合大數據技術挖掘跨傳感器目標間的關系。一旦能夠真正打造出成本可接受的大規模視覺計算系統，那么將會在智慧城市、智慧商業等很多領域中對安全、管理和商業運營都會產生巨大的影響，使得線下世界將可以用更加智能、數字化的方式運營，線下世界和線上世界將融合打通，產生更多的商業模式和價值。

涉及到很多技術相關的內容，我會在23日的GIAC上再詳細的展開。 希望我講解的內容能幫助大家了解機器視覺方向的前沿技術、關鍵因素以及應用方向，希望大家能夠少走彎路。

高可用架構： 作為 GIAC 的聯席主席、重磅嘉賓，您對大會有什么樣的寄語？

鄧亞峰： 希望GIAC成為技術人員深度交流、碰撞思想的舞臺，為參會者真正帶來收獲和價值。