人臉識別黑科技正式入侵，消亡還是蘇醒？人工智能測試勢不可擋！

摘要：當前，人臉識別技術已經在諸多領域取得廣泛應用，但其風險也一直為外界關注，尤其是對風險容忍度較低的金融行業來說，用戶驗證環節如果出現漏洞，就可能造成巨大損失。本文將以一個項目實例出發，分享在測試人臉識別技術時遇到的問題和取得的經驗，并對如何測試人工智能提出幾點思考。

人臉識別技術測試實例——從一個項目談起

近期，我司測試部門在承接某項目時，發現了該項目在用戶活體驗證出現的一個業務安全漏洞。活體驗證是該項目服務流程中的一個必經步驟，驗證的方式是由用戶以手機設備錄制閱讀隨機數字的視頻，與后臺人臉數據比對后，判斷當前操作用戶是否為本人。在此環節，測試人員發現，通過在電子設備上進行圖片翻拍和視頻翻拍，非本人也同樣能夠通過該驗證。隨后，項目組聯系活體驗證技術提供方，調整相關參數，又進行了人臉識別的專項測試，但在該專項測試中仍有一定比例的靜態圖片攻擊成功，騙過模型。鑒于測試結果，項目組經過研究討論，決定該項目延期投產，集中解決人臉識別模型相關問題。

常用人臉識別/活體檢測技術簡介

人臉識別是人工智能領域應用較為廣泛，發展也相對成熟的技術。靜態的圖片人臉識別安全性較低，因此多采用活體檢測技術，下面對常見的活體檢測技術進行介紹。

動作配合式活體檢測：算法給出隨機動作指令，用戶配合完成動作，如點頭、眨眼、搖頭、唇語等，該類算法當前應用最為廣泛。

靜默活體檢測：顧名思義，相較動作活體檢測，靜默活體檢測不需要用戶進行配合動作，而是讓用戶正對著攝像頭幾秒即可完成檢測，其檢測的要素包括了眼皮和眼球的律動、面部肌肉的收縮等。

紅外活體檢測：即利用紅外成像原理進行活體檢測，該算法安全性較高，但需要額外配置紅外攝像頭。

3D結構光活體檢測：能夠根據反射光線識別3D的人臉結構，安全性較高，但需要深度圖像鏡頭模組配合，目前只在部分高端旗艦手機上有所配置。

常見人臉識別攻擊方式簡介

在對人臉識別/活體驗證環節的測試過程中，測試人員嘗試了多種攻擊方式，從介質上分類，基本的思路包括圖片攻擊和視頻攻擊。

圖片攻擊：即以靜態圖片欺騙人臉識別算法，應用于靜態圖片人臉識別。圖片展示介質包括了電子屏幕（考慮不同分辨率，不同成像原理的電子屏幕），紙質圖片（彩色和黑白）等。

圖1基本的照片攻擊方式，看看我是誰？

視頻攻擊：翻拍或制作視頻以欺騙人臉識別算法，主要用來對動作配合式活體檢測進行攻擊。最直接的攻擊方式為播放對應客戶本人預先根據指令而錄制的短視頻，但現實中偽造成本較高。隨著圖像處理技術、人工智能技術的發展，出現了一些根據靜態照片生成動態視頻的軟件，僅需要一張人像照片，就可以生成該人像搖頭、點頭、眨眼，甚至閱讀各種文字口型的視頻。

圖2使用軟件生成了彥祖讀一串數字的視頻，右下為原圖

考慮上述兩種攻擊方式，準備的影像素材通常需要依賴電子屏幕作為介質進行輸出，這就可以通過識別摩爾紋等方式進行判別。而單純的靜態圖片人臉識別應用場景也較少。下面介紹兩類進階的攻擊方式。

實體攻擊：該攻擊方式的形式較為多元化，主要思路是避免將電子屏幕或者單純的平面照片作為驗證圖像展示方式。例如，打印一張人體照片，將照片按照一定弧度彎折，配合活體驗證指令活動，對于向眨眼這樣的指令，可將照片的眼部圖像減掉，非本人的真人在后方配合眨眼。而較為高級的攻擊方式還包括了制作3D臉部模型等。

圖3半張臉攻擊

圖4扣嘴攻擊

應用破解/注入攻擊：該攻擊方式需要一定技術手段，思路包括埋點監測人臉識別觸發流程，修改程序繞過該步驟，或抓包后重組數據報文，將前述圖片攻擊和視頻攻擊中準備的影響不通過其他介質轉錄，直接發送給后臺，以及修改報文中的閾值等關鍵指標后再進行檢驗等。

淺談如何測試人工智能軟件

人工智能軟件的測試，可以分為兩個部分：一，對軟件的測試。二，對算法的測試。而本次測試的特殊性就在于對算法的測試。

對于測試人員來說，由于當前最廣泛應用的深度學習算法（神經網絡）是一種黑盒算法，測試人員難以像傳統的功能測試一樣提出規則性的功能缺陷，且缺陷難以穩定復現，因此測試人員最終所提供的測試結果往往是提供正向及反向用例的通過率，作為參考。

盡管算法的開發人員在建模時就需要輸入大量的訓練集與測試集，同時也需要評估大量的模型相關指標，但測試工作仍然是不能缺位的：開發人員更注重模型的正向通過率，而對多樣性的反向場景設想不足。這就需要測試人員發揮想象力，提供更多反向場景。其意義在于，一方面對于算法較易失效的場景采取更加針對性的模型訓練。另一方面，即便是黑盒的神經網絡算法，也能夠根據反向用例反推模型各個路徑的權重，對模型參數調整提供參考。

另外，對于人臉識別算法，通常還要關注模型相似性閾值，即相似度大于X%后判定通過。該值過高，則增加了攻擊通過的風險，該值過低，則會造成正向通過率偏低，影響正常用戶體驗。而采用何種閾值，還需要項目組權衡了風險和收益之后，綜合考慮后決定。