大規(guī)模的網(wǎng)絡(luò)攻擊曾經(jīng)倒逼了殺毒軟件的誕生，應(yīng)用日漸廣泛的人工智能，又該如何抵御“病毒”的攻擊?記者從清華人工智能研究院獲悉，該院RealAI(瑞萊智慧)創(chuàng)業(yè)團(tuán)隊(duì)8日推出針對(duì)算法模型本身安全的檢測(cè)平臺(tái)，意味著人工智能也有了“殺毒軟件”。

人工智能發(fā)展的天然“軟肋”

作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的顛覆性技術(shù)，人工智能目前正在滲透到了社會(huì)生活的方方面面。隨著數(shù)據(jù)泄漏、算法偏見(jiàn)、算法漏洞等一系列問(wèn)題的暴露，其安全需求和倫理影響也逐漸顯現(xiàn)，給國(guó)家經(jīng)濟(jì)和社會(huì)安全帶來(lái)諸多風(fēng)險(xiǎn)和挑戰(zhàn)。

RealAI團(tuán)隊(duì)CEO田天介紹，現(xiàn)階段，由于人工智能技術(shù)不成熟以及惡意應(yīng)用所導(dǎo)致的安全風(fēng)險(xiǎn)，本質(zhì)上屬于人工智能的“技術(shù)短板”，比如模型缺陷、算法不可解釋性、數(shù)據(jù)強(qiáng)依賴(lài)性等，是限制人工智能發(fā)展最明顯的“軟肋”。

算法突破，是人工智能行業(yè)發(fā)展的基石和熱點(diǎn)。中國(guó)信息通信研究院2018年發(fā)布的《人工智能安全白皮書(shū)》指出，“算法安全”是人工智能六大安全風(fēng)險(xiǎn)之一。同時(shí)，白皮書(shū)認(rèn)為“對(duì)抗樣本攻擊誘使算法識(shí)別出現(xiàn)誤判漏判”這一算法模型缺陷是算法安全的重要風(fēng)險(xiǎn)項(xiàng)。

“病毒”入侵或讓AI“精神錯(cuò)亂”

“對(duì)抗樣本原本是機(jī)器學(xué)習(xí)模型的一個(gè)有趣現(xiàn)象。”田天解釋?zhuān)峭ㄟ^(guò)在源數(shù)據(jù)上增加一些細(xì)微改變，人類(lèi)感官很難辨識(shí)，但足以讓機(jī)器學(xué)習(xí)模型接受并做出錯(cuò)誤的分類(lèi)決定，從而把一座山峰識(shí)別為一只狗，或者把C羅識(shí)別為梅西。

也就是說(shuō)，這些對(duì)抗樣本的攻擊，會(huì)像病毒一樣入侵人工智能系統(tǒng)的“意識(shí)”中，讓它出現(xiàn)“精神錯(cuò)亂”而無(wú)法工作。

隨著人工智能的普及，這些例子不斷地在現(xiàn)實(shí)中上演：在路面上粘貼對(duì)抗樣本貼紙模仿合并條帶，誤導(dǎo)自動(dòng)駕駛汽車(chē)拐進(jìn)逆行車(chē)道;佩戴對(duì)抗樣本生成的眼鏡，輕易破解手機(jī)面部解鎖;胸前張貼對(duì)抗樣本貼紙即可實(shí)現(xiàn)隱身……

尤其是在人臉識(shí)別、自動(dòng)駕駛等特定領(lǐng)域，這種“AI病毒”可能造成難以挽回的人員和財(cái)產(chǎn)損失。

“殺毒軟件”提升AI系統(tǒng)可靠性

“目前，人工智能安全還是一個(gè)新興領(lǐng)域，存在較高的技術(shù)壁壘。”田天告訴記者，隨著攻防相互的發(fā)展，對(duì)抗樣本等攻擊手段變得愈發(fā)復(fù)雜，尤其在開(kāi)源社區(qū)、工具包的加持下，高級(jí)復(fù)雜攻擊方法快速增長(zhǎng)，但是相關(guān)防御手段的升級(jí)卻難以跟上。

作為清華人學(xué)人工智能研究院的官方團(tuán)隊(duì)，RealAI曾率先提出多項(xiàng)攻防算法，被主流開(kāi)源軟件FoolBox等收錄為標(biāo)準(zhǔn)，與清華聯(lián)合組成的戰(zhàn)隊(duì)曾斬獲多項(xiàng)人工智能?chē)?guó)際大賽冠軍。

團(tuán)隊(duì)開(kāi)發(fā)的RealSafe人工智能安全平臺(tái)，能夠提供從測(cè)評(píng)到防御的完整解決方案，快速緩解對(duì)抗樣本攻擊威脅。相較于目前常見(jiàn)的開(kāi)源工具需要自行部署、編寫(xiě)代碼，該平臺(tái)支持零編碼在線測(cè)評(píng)，用戶(hù)只需提供相應(yīng)的數(shù)據(jù)即可在線完成評(píng)估，極大降低了算法評(píng)測(cè)的技術(shù)難度。同時(shí)，平臺(tái)采用可量化的形式對(duì)安全性進(jìn)行評(píng)估，評(píng)分越高則模型安全性越高。針對(duì)檢測(cè)出來(lái)的漏洞，平臺(tái)還可提供合適的防御方案，提升模型安全性。

“推出安全檢測(cè)平臺(tái)是規(guī)避風(fēng)險(xiǎn)的路徑之一，未來(lái)還需要聯(lián)合各界力量共同推動(dòng)人工智能安全相關(guān)的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、聯(lián)盟標(biāo)準(zhǔn)的制定，為人工智能產(chǎn)品安全評(píng)估評(píng)測(cè)提供統(tǒng)一參考。”田天說(shuō)。(趙竹青)

關(guān)鍵詞： AI系統(tǒng)