10月12日，2021年國(guó)家網(wǎng)絡(luò)安全宣傳周人工智能安全產(chǎn)業(yè)發(fā)展分論壇在陜西省西安市成功舉辦。在論壇現(xiàn)場(chǎng)，由中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)組織評(píng)選的“人工智能安全典型實(shí)踐案例”正式公布。三六零集團(tuán)所提報(bào)的“360人工智能框架漏洞威脅感知系統(tǒng)”、“360新一代終端安全智能防護(hù)系統(tǒng)”兩款產(chǎn)品在眾多案例中脫穎而出，入選為2021年人工智能安全典型實(shí)踐案例。

數(shù)字化時(shí)代，人工智能成為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，但同時(shí)也帶來(lái)新安全治理挑戰(zhàn)。360集團(tuán)AI安全實(shí)驗(yàn)室負(fù)責(zé)人鄒權(quán)臣在論壇主旨演講中指出，“機(jī)器學(xué)習(xí)框架是人工智能基礎(chǔ)設(shè)施的核心，當(dāng)前框架安全檢測(cè)缺少面向框架安全的、有針對(duì)性、系統(tǒng)性的自動(dòng)化檢測(cè)工具，一旦被惡意攻擊，將會(huì)影響數(shù)以千萬(wàn)計(jì)的開(kāi)發(fā)者以及用戶?！?/p>

360集團(tuán)AI安全實(shí)驗(yàn)室負(fù)責(zé)人鄒權(quán)臣

作為數(shù)字經(jīng)濟(jì)的守護(hù)者，360依托在安全大數(shù)據(jù)、攻防專(zhuān)家團(tuán)隊(duì)等優(yōu)勢(shì)，融合人工智能與安全自主研發(fā)了360人工智能框架漏洞威脅感知系統(tǒng)，該系統(tǒng)能夠從算法實(shí)現(xiàn)、漏洞類(lèi)型、編譯優(yōu)化等多角度持續(xù)開(kāi)展對(duì)機(jī)器學(xué)習(xí)框架的安全風(fēng)險(xiǎn)研究，并采用動(dòng)、靜結(jié)合的分析方法對(duì)Python、C++、Go等不同語(yǔ)言中的不同漏洞類(lèi)型進(jìn)行全面系統(tǒng)的檢測(cè)，檢測(cè)過(guò)程著重關(guān)注從訓(xùn)練到推理、從數(shù)據(jù)到模型、從云端到終端過(guò)程中存在的安全風(fēng)險(xiǎn)。此外，該系統(tǒng)基于豐富的安全專(zhuān)家知識(shí)庫(kù)，能夠提供對(duì)AI框架業(yè)務(wù)的定制化檢測(cè)，如對(duì)計(jì)算圖優(yōu)化、圖編譯、分布并行等模塊的安全性檢測(cè)。

近期，360人工智能框架漏洞威脅感知系統(tǒng)對(duì)國(guó)內(nèi)外主流開(kāi)源AI框架進(jìn)行了安全性評(píng)測(cè)，累計(jì)7款機(jī)器學(xué)習(xí)框架（如Tensorflow、PyTorch等）漏洞150+個(gè)，框架供應(yīng)鏈漏洞200+個(gè)，并幫助各廠商對(duì)漏洞進(jìn)行了修復(fù)。值得一提的是，360 AI安全實(shí)驗(yàn)室已經(jīng)累計(jì)發(fā)現(xiàn)并幫助谷歌修復(fù)Tensorflow漏洞98個(gè)（CVE），其中高危、嚴(yán)重漏洞共24個(gè)，在數(shù)量上均位列全球首位。

據(jù)介紹，360 AI安全實(shí)驗(yàn)室專(zhuān)注于人工智能與安全前沿技術(shù)研究，發(fā)現(xiàn)AI框架、智能設(shè)備、AI應(yīng)用等多維度AI系統(tǒng)安全風(fēng)險(xiǎn)，并提供安全評(píng)測(cè)和防護(hù)服務(wù)；開(kāi)展AI賦能網(wǎng)絡(luò)安全的研究工作，致力于應(yīng)用AI技術(shù)在惡意代碼識(shí)別、流量分析、漏洞挖掘等重要場(chǎng)景中取得突破性進(jìn)展。

鄒權(quán)臣在論壇最后強(qiáng)調(diào)，360 AI實(shí)驗(yàn)室還承擔(dān)了由科技部批復(fù)、360集團(tuán)承建的“安全大腦國(guó)家新一代人工智能開(kāi)放創(chuàng)新平臺(tái)”的建設(shè)工作。該平臺(tái)致力于解決人工智能系統(tǒng)安全風(fēng)險(xiǎn)、人工智能在網(wǎng)絡(luò)安全領(lǐng)域創(chuàng)新成果落地難以及創(chuàng)新環(huán)境匱乏等問(wèn)題。未來(lái)，360將通過(guò)平臺(tái)運(yùn)營(yíng)，建立人工智能與安全開(kāi)放創(chuàng)新體系，實(shí)現(xiàn)核心研究成果的對(duì)接與轉(zhuǎn)化，推動(dòng)產(chǎn)業(yè)健康快速發(fā)展。