安全AI從概念到落地

去年12月，阿里安全提出“安全AI”概念，指出安全和AI是互相促進(jìn)的有機(jī)體。一方面，AI技術(shù)應(yīng)用在安全領(lǐng)域，可以讓安全能力更智能；另一方面，安全技術(shù)應(yīng)用在AI領(lǐng)域，可以讓AI能力更可靠。

阿里安全認(rèn)為，安全技術(shù)在經(jīng)歷了專家運(yùn)營階段、數(shù)據(jù)智能階段后，已經(jīng)迎來的安全AI階段。在安全AI階段，更多的安全識別、決策、處置等關(guān)鍵動作將主要依靠AI來實(shí)現(xiàn)。

目前，阿里安全正在做的是，主動挖掘機(jī)器學(xué)習(xí)算法的安全漏洞，以期構(gòu)建更加安全和可信的AI系統(tǒng)，并發(fā)展新的機(jī)器學(xué)習(xí)算法，逐步將AI的安全問題體系化、標(biāo)準(zhǔn)化。

在今年CVPR 2020關(guān)于行為檢測AI的兩項(xiàng)賽道任務(wù)中，阿里和華科大聯(lián)手提出的解決方案不僅獲得了雙料冠軍，并以平均均值精度（mAP）42．788％的性能一舉打破眾多頂尖科技公司、科研院校去年無法突破40％的瓶頸，在AI視覺領(lǐng)域帶來新的可能。

行為檢測AI經(jīng)過長時間打磨，在阿里安達(dá)實(shí)驗(yàn)室的多媒體AI和安全審核等系統(tǒng)中布局成為安全AI的核心組件之一。

行為檢測AI在體育、直播、影視傳媒和安防領(lǐng)域有廣闊的應(yīng)用前景，比如精彩動作檢測、智能集錦生成、介紹商品行為，以及通用動作檢測識別、多模態(tài)搜索、異常動作檢測等。

安全架構(gòu)理念促進(jìn)技術(shù)開發(fā)

阿里安全的新一代安全架構(gòu)的應(yīng)用成果促進(jìn)了AI技術(shù)的發(fā)展和進(jìn)步，為新一代人工智能的理論方法研究提供了支持。

基于從源頭打造安全免疫力的新一代安全架構(gòu)理念，最近，阿里安全發(fā)布了一項(xiàng)核心技術(shù)“AI安全診斷大師”，可對AI模型全面體檢，讓AI模型出生就自帶增強(qiáng)型免疫力，抵御安全威脅。

它提供了全方位的體檢與診斷開方服務(wù)，對AI模型進(jìn)行體檢后，通過診斷算法可能出錯的特殊情形，給模型防御增強(qiáng)提供細(xì)化指導(dǎo)。

其提供了一個可視化界面，以模型的損失曲面分析圖呈現(xiàn)被評估AI模型的輸入擾動及響應(yīng)表現(xiàn)，可以直觀地看出AI模型的總體安全性能，曲面越平緩，AI遭遇攻擊時，抵御攻擊的能力更強(qiáng)。

“AI安全診斷大師”檢測到算法服務(wù)的潛在安全風(fēng)險(xiǎn)后，還有針對惡意攻擊的防火墻功能，定制化提供防御升級的建議。

經(jīng)過在色情、暴恐、敏感圖像識別等多種內(nèi)容安全服務(wù)上的測試，可將模型對外部攻擊的有效防御能力整體提升40％以上。

結(jié)尾：

未來基于新基建下的智慧城市、智慧社區(qū)和智慧生活，雖然會體驗(yàn)到互聯(lián)網(wǎng)帶來的便利性，但同時也要承受網(wǎng)絡(luò)安全帶來的挑戰(zhàn)，未來新基建的基礎(chǔ)應(yīng)該是網(wǎng)絡(luò)安全。

網(wǎng)絡(luò)安全絕對是未來新基建最重要的基石，想要人們體驗(yàn)智慧城市帶來的完美體驗(yàn)，就必須完善網(wǎng)絡(luò)安全體系。