“技術(shù)變革起源于理念變革”，韋韜博士指出：“安全的核心是對(duì)抗兜喻，對(duì)抗是持續(xù)的梦染、跨維度的。歷史一而再硫缓、再而三的告訴我們抄刁，安全沒(méi)有Silver bullet。”安全涉及技術(shù)恭隧、人性终于、生態(tài)萄尽，本質(zhì)上是一個(gè)復(fù)雜巨系統(tǒng)，要應(yīng)對(duì)AI時(shí)代的挑戰(zhàn)禁脏，首先要有新的理念體系。

百度首席安全科學(xué)家 韋韜博士

AI催生產(chǎn)業(yè)格局深刻變革苗圃，安全挑戰(zhàn)亟待新思路

新技術(shù)谣泄、新業(yè)態(tài)催生了傳統(tǒng)網(wǎng)絡(luò)安全格局的深刻變革。伴隨移動(dòng)互聯(lián)網(wǎng)惫饲，大數(shù)據(jù)褂圣、云計(jì)算、人工智能等新一代信息技術(shù)的快速發(fā)展裤础，圍繞網(wǎng)絡(luò)和數(shù)據(jù)的服務(wù)與應(yīng)用呈現(xiàn)爆發(fā)式增長(zhǎng)懊悯，智能設(shè)備將無(wú)所不在，智能家居梦皮、無(wú)人車炭分、物聯(lián)網(wǎng)將滲透到人類社會(huì)的各個(gè)角落，豐富的應(yīng)用場(chǎng)景下暴露出越來(lái)越多的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和問(wèn)題剑肯，在全球范圍內(nèi)產(chǎn)生廣泛而深遠(yuǎn)的影響捧毛。人身安全、數(shù)據(jù)安全與隱私面臨著全新挑戰(zhàn)让网，對(duì)互聯(lián)網(wǎng)發(fā)展與治理帶來(lái)巨大的挑戰(zhàn)呀忧。

不僅如此，主流機(jī)器學(xué)習(xí)框架經(jīng)常被爆出存在安全漏洞溃睹，包括傳統(tǒng)內(nèi)存安全漏洞而账，以及新興的對(duì)抗樣本攻擊漏洞。這些漏洞會(huì)導(dǎo)致AI系統(tǒng)的輸出結(jié)果被攻擊者任意控制因篇，甚至導(dǎo)致系統(tǒng)自身被攻擊者控制泞辐。關(guān)于AI本身的安全性變得前所未有的重要，并超乎我們傳統(tǒng)對(duì)于安全邊界與框架的認(rèn)知范疇惜犀。

此外铛碑，傳統(tǒng)的系統(tǒng)安全頑疾到了AI時(shí)代將更加集中的爆發(fā)∈品模基于IoT的各類智能系統(tǒng)在芯片種類赦锰、終端廠商數(shù)量、操作系統(tǒng)種類演茂，產(chǎn)品形態(tài)種類等方面的不同灼址，“生態(tài)碎片化”導(dǎo)致了智能設(shè)備中N-day安全漏洞失控，被黑產(chǎn)肆意利用;同時(shí)件银，“C語(yǔ)言魔咒”導(dǎo)致了大規(guī)模復(fù)雜系統(tǒng)長(zhǎng)期維護(hù)中不可避免地出現(xiàn)高危內(nèi)存漏洞肤轿，危及生命財(cái)產(chǎn)安全依特。

韋韜博士指出，現(xiàn)有的安全技術(shù)有著本質(zhì)上的缺陷度籍，難以應(yīng)對(duì)AI時(shí)代的安全挑戰(zhàn)契畔。

構(gòu)建生態(tài)支點(diǎn)，百度安全探索AI安全時(shí)代理念體系

會(huì)議現(xiàn)場(chǎng)碌掩，韋韜博士借用了傳統(tǒng)道家真言中的五個(gè)字來(lái)描述百度下一代AI安全技術(shù)棧BASS的理念體系：

“斗”课丢，指對(duì)抗，特別指能夠支持碎片化生態(tài)自適應(yīng)快速響應(yīng)的對(duì)抗能力步氏。 在此方面百度安全的實(shí)踐包括OASES KARMA系統(tǒng)自適應(yīng)熱修復(fù)技術(shù)响禽、OpenRASP云端自適應(yīng)安全防護(hù)技術(shù)、BOTA安全在線升級(jí)系統(tǒng)等荚醒，在業(yè)界已經(jīng)有了廣泛應(yīng)用與盛譽(yù);

“陣”芋类，指利用百度安全實(shí)驗(yàn)室獨(dú)創(chuàng)的Hybrid Memory Safety(HMS)技術(shù)，構(gòu)造完整的內(nèi)存安全系統(tǒng) 界阁，并在其上利用Non-bypassable Security Paradigm(NbSP)等可擴(kuò)展形式化驗(yàn)證技術(shù)保障整體應(yīng)用的安全性侯繁，以構(gòu)建堅(jiān)實(shí)的防御陣地。百度安全實(shí)驗(yàn)室的MesaLock Linux铺董、Mesalink TLS巫击、MesaPy等開(kāi)源項(xiàng)目提供了國(guó)際上第一套HMS安全操作系統(tǒng)、通信庫(kù)及Python實(shí)現(xiàn)精续，被安全業(yè)界高度評(píng)價(jià);

“臨”坝锰，在道家真言中指“事具不動(dòng)不惑之意志”，在此為陣的根基 重付。特指以Intel SGX為代表的下一代TCB技術(shù)顷级，這成為高安全系統(tǒng)的遠(yuǎn)程分布式計(jì)算安全保障的基石。為了對(duì)抗側(cè)信道攻擊涵店，BASS提供了TPM 2.0/MesaLock Linux/MesaTEE SGX的縱深防御體系裁国，提供迄今為止最強(qiáng)的安全防護(hù);

“兵”，指人性卫跺、化簡(jiǎn)表季、超越。 人是會(huì)犯錯(cuò)的钥忌，人參與越多虏淤，漏洞越多。七分管理三分技術(shù)是AI時(shí)代之前安全的無(wú)奈選擇虏爸。在大數(shù)據(jù)與AI時(shí)代舶惕，靠人已經(jīng)無(wú)法應(yīng)對(duì)復(fù)雜度爆炸的系統(tǒng)與組織的安全保障需求。為此，新安全技術(shù)棧需要首先將安全問(wèn)題化簡(jiǎn)饶几，將讓安全專家聚焦在最關(guān)鍵的核心環(huán)節(jié)上;其次价秉，需要充分利用和保障AI技術(shù)來(lái)超越純?nèi)斯さ陌踩芾怼Ｔ谶@個(gè)領(lǐng)域暮态，BASS提供了MesaTEE鹦赎，重構(gòu)云上信任機(jī)制，極大的簡(jiǎn)化了數(shù)據(jù)安全管理的信任鏈條;BASS的AdvBox與HugeGraph也為AI與大數(shù)據(jù)安全應(yīng)用提供了強(qiáng)有力的支撐;

“皆”误堡，指開(kāi)源钙姊、標(biāo)準(zhǔn)化與生態(tài)共建。 AI時(shí)代埂伦，一個(gè)顯著的特征是每個(gè)企業(yè)都強(qiáng)依賴于供應(yīng)鏈。此時(shí)思恐，安全上沒(méi)有企業(yè)能獨(dú)善其身沾谜，安全必須要整個(gè)生態(tài)的努力。BASS開(kāi)源了七大安全技術(shù)胀莹，是希望與生態(tài)共建基跑，迅速提升AI新興產(chǎn)業(yè)的安全水平，避免重蹈移動(dòng)時(shí)代詐騙高發(fā)的覆轍描焰，形成產(chǎn)業(yè)共贏媳否。

七大開(kāi)源技術(shù)集中亮相，圍繞云管端展開(kāi)實(shí)踐

面對(duì)AI時(shí)代層出不窮且日益復(fù)雜的生態(tài)安全問(wèn)題荆秦，百度安全始終倡導(dǎo)通過(guò)新一代技術(shù)研發(fā)與開(kāi)源篱竭，實(shí)現(xiàn)對(duì)安全問(wèn)題的快速響應(yīng)與對(duì)抗，以及安全防護(hù)的層次化蚜宠，迄今已實(shí)現(xiàn)多項(xiàng)AI安全核心技術(shù)的突破厘乱。在本次云智峰會(huì)安全分論壇上，百度安全正式發(fā)布下一代人工智能安全技術(shù)棧(Baidu AI Security Stack极炎，簡(jiǎn)稱BASS)潭女，其高安全可驗(yàn)證系統(tǒng)架構(gòu)目前已實(shí)現(xiàn)云管端的全方位覆蓋，OASES KARMA系統(tǒng)自適應(yīng)熱修復(fù)技術(shù)嫩柑、OpenRASP下一代云端安全防護(hù)系統(tǒng)捍秃、MesaLock Linux內(nèi)存安全操作系統(tǒng)、Mesalink TLS下一代安全通信庫(kù)舌捡、MesaTEE下一代可信安全計(jì)算服務(wù)框架印洒、AdvBox AI模型攻防工具包、HugeGraph大規(guī)模圖數(shù)據(jù)庫(kù)等七大開(kāi)源技術(shù)已面向生態(tài)開(kāi)源腰步，為AI安全生態(tài)提供全方位技術(shù)保障溪臊。

在百度安全探索AI生態(tài)安全問(wèn)題的過(guò)程中，BASS下一代AI安全技術(shù)棧已經(jīng)在諸多領(lǐng)域展開(kāi)實(shí)踐堆鸦。例如镊鹊，OASES KARMA自適應(yīng)系統(tǒng)熱修復(fù)技術(shù)已經(jīng)廣泛嵌入到智能電視填抬、智能手機(jī)的系統(tǒng)層中，改變了以往安卓操作系統(tǒng)需要依靠廠商定期提供更新才能修補(bǔ)漏洞的方式隧期。AdvBox對(duì)抗樣本工具包針對(duì)AI算法模型提供安全性研究和解決方案飒责，目前已應(yīng)用于百度深度學(xué)習(xí)開(kāi)源平臺(tái)PaddlePaddle。

本次發(fā)布的百度安全開(kāi)源大規(guī)模圖數(shù)據(jù)庫(kù)HugeGraph在實(shí)踐過(guò)程中仆潮，也得到了極好的證明宏蛉。其在安全反欺詐、知識(shí)圖譜性置、機(jī)器學(xué)習(xí)中發(fā)揮著重要作用拾并，目前已廣泛應(yīng)用到網(wǎng)址安全檢測(cè)、威脅情報(bào)分析鹏浅、業(yè)務(wù)風(fēng)控嗅义、數(shù)據(jù)安全治理中，其所提供的關(guān)聯(lián)分析圖譜隐砸，能從看似雜亂無(wú)章的關(guān)系中尋找到網(wǎng)絡(luò)黑產(chǎn)的脈絡(luò)之碗，在百度安全協(xié)助公安機(jī)關(guān)破獲多起電信詐騙、偽基站季希、流量劫持褪那、用戶隱私竊取等重大黑產(chǎn)案件中，提供了打擊溯源的核心能力既芯，全方位實(shí)現(xiàn)從警務(wù)數(shù)據(jù)整合到分析挖掘喷围，助力智慧公安新業(yè)態(tài)，踐行企業(yè)社會(huì)責(zé)任支赖。BASS下一代人工智能安全技術(shù)棧將協(xié)同七大開(kāi)源技術(shù)持續(xù)為AI時(shí)代護(hù)航荸冒。

BASS下一代AI安全技術(shù)已經(jīng)成為AI安全生態(tài)的重要支點(diǎn)。據(jù)悉访跪，BASS未來(lái)將持續(xù)釋放開(kāi)源技術(shù)扬饰，形成支撐起AI安全生態(tài)的核心技術(shù)棧，在這個(gè)過(guò)程中化威，實(shí)現(xiàn)由傳統(tǒng)安全時(shí)代的強(qiáng)管理向AI時(shí)代的強(qiáng)技術(shù)支撐下的核心管理的轉(zhuǎn)變：首先利用革命性新安全技術(shù)簡(jiǎn)化和重鑄基礎(chǔ)技術(shù)體系和網(wǎng)絡(luò)信任機(jī)制班跟，在此基礎(chǔ)之上再利用大數(shù)據(jù)和人工智能技術(shù)，將原本依賴大量人力運(yùn)維的安全體系標(biāo)準(zhǔn)化和自動(dòng)化肪误，顯著提升安全運(yùn)營(yíng)和管理工作的效率和效果板径。

從新一代安全技術(shù)的研發(fā)與開(kāi)源，到為行業(yè)提供一體化安全解決方案郎闹，再到促進(jìn)學(xué)術(shù)疾捍、企業(yè)、機(jī)構(gòu)間多層面協(xié)作，百度安全正在升級(jí)打造AI時(shí)代的安全生態(tài)乱豆，用ABC策略直擊AI安全時(shí)代焦慮奖恰，打破產(chǎn)業(yè)隔閡，避免生態(tài)碎片化宛裕，以此推動(dòng)AI時(shí)代的安全生態(tài)建設(shè)瑟啃。