如同一些出生免疫力即有缺陷的人一樣，AI天生也存在免疫力缺陷。例如，車輛的輔助駕駛和自動駕駛系統(tǒng)會因算法技術(shù)缺陷喪失識別交通指示牌的能力，成為“沒有視覺系統(tǒng)”的汽車，從而給出錯誤的決策，遇到大型障礙物時“看不到”停車標志，一頭撞上去。

AI模型對微小擾動很敏感，一些細微不可見的改動就可以引起算法上的巨大誤差，往往帶來可怕的安全威脅。基于從源頭打造安全免疫力的新一代安全架構(gòu)理念，最近，阿里安全發(fā)布了一項核心技術(shù)“AI安全診斷大師”，可對AI模型全面體檢，“看診開方”，讓AI模型出生就自帶增強型免疫力，抵御安全威脅。

“AI安全診斷大師”包括一款對AI模型安全性進行評測和防御的工具箱，對多個云上算法接口進行安全性測試后，還沉淀出一套在實際生產(chǎn)中能對惡意攻擊進行過濾，降低安全風(fēng)險的AI防火墻系統(tǒng)。

據(jù)阿里安全圖靈實驗室高級算法專家華棠介紹，“AI安全診斷大師”提供了全方位的體檢與診斷開方服務(wù)，對AI模型進行體檢后，通過診斷算法可能出錯的特殊情形，給模型防御增強提供細化“健康”指導(dǎo)。

值得注意的是，這種“安全診斷”看得見。“AI安全診斷大師”提供了一個可視化界面，以模型的損失曲面分析圖呈現(xiàn)被評估AI模型的輸入擾動及響應(yīng)表現(xiàn)，可以直觀地看出AI模型的總體安全性能，曲面越平緩，AI遭遇攻擊時，抵御攻擊的能力更強。

“AI安全診斷大師”的可視化診斷結(jié)果界面

除了提供總體安全性能評估的“體檢報告”，“AI安全診斷大師”可通過指定評測數(shù)據(jù)集生成針對某幾種特定攻擊的性能報告，提供不同攻擊算法下更細化的安全性指標。它可以提供即插即用的安全能力，對于那些不方便“面診”的“患者”，比如只能提供API接口的AI服務(wù)，“AI安全診斷大師”提供“云體檢”服務(wù)，只需調(diào)用接口即可評測AI的安全性。

“AI安全診斷大師”給多個算法API出具的遭遇攻擊的體檢報告

“AI安全診斷大師”檢測到算法服務(wù)的潛在安全風(fēng)險后，還有針對惡意攻擊的防火墻功能，定制化提供防御升級的建議。

“將多種攻擊檢測和對抗防御方法作為附加模塊，可為AI模型部署前置服務(wù)，在不修改原模型的基礎(chǔ)上，提升模型對于對抗樣本攻擊的防御性能，降低用戶使用成本和風(fēng)險。經(jīng)過在色情、暴恐、敏感圖像識別等多種內(nèi)容安全服務(wù)上的測試，‘AI安全診斷大師’可將模型對外部攻擊的有效防御能力整體提升40%以上。”華棠說。

不久前，阿里安全曾發(fā)布了一個高效打造AI深度模型的“AI訓(xùn)練師助手”，讓AI訓(xùn)練模型面對新場景時不用從頭學(xué)習(xí)，直接從已經(jīng)存在的模型上遷移，迅速獲得別人的知識、能力，成為全新的AI模型，將模型打造周期從一個月縮短為一天。在阿里新一代安全架構(gòu)的指導(dǎo)下，阿里安全圖靈實驗室不斷致力于磨礪出提升AI效率，保障AI安全的技術(shù)和產(chǎn)品，推動AI安全的相關(guān)技術(shù)更好地應(yīng)用于實際場景中。

中國科學(xué)院計算技術(shù)研究所副研究員王樹徽評價：“阿里安全從整體層面考慮了人工智能安全的架構(gòu)性漏洞，提出了‘安全基建’的構(gòu)想和技術(shù)系統(tǒng)。在關(guān)鍵技術(shù)層面，集成了最新的AI攻防技術(shù)，充分考慮了人工智能安全攻防兩端的應(yīng)用需求，分析結(jié)果可解釋性強，易于理解并指導(dǎo)實踐。在實用層面，提供了一套切實可行、即插即用的解決方案，定制化提出防御升級方案，幫助廣大人工智能技術(shù)實踐者有效提高其算法系統(tǒng)的免疫力和安全水平。此外，阿里安全的新一代安全架構(gòu)的應(yīng)用成果也有望促進人工智能技術(shù)的發(fā)展和進步，為新一代人工智能的理論方法研究提供了支持。”

目前阿里安全正與相關(guān)部門、企業(yè)、高校一起參與人工智能安全標準的制定，“AI安全診斷大師”的落地成果也作為優(yōu)秀應(yīng)用案例，被收錄于全國信息標準化技術(shù)委員會打造的《人工智能安全標準化白皮書(2019版)》。