近日，作為互聯(lián)網(wǎng)安全大會（ISC 2021）九大峰會之一的“中國人工智能安全創(chuàng)新峰會”在北京國家會議中心成功召開。此次大會在中國人工智能學會的大力支持和ISC組委會的積極籌備下，由中國人工智能學會主辦，CAAI人工智能與安全專業(yè)委員會、360政企安全集團共同承辦。峰會邀請了CAAI人工智能與安全專業(yè)委員會領(lǐng)導、專家學者、機構(gòu)代表、業(yè)界友商等共同參與，圍繞人工智能安全發(fā)展趨勢及最新研究成果與應用等前沿話題展開探討。

　　AI安全不容忽視

　　作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，人工智能正在對經(jīng)濟、社會發(fā)展帶來顛覆性影響。但人工智能技術(shù)是一把"雙刃劍"，在推動數(shù)字經(jīng)濟社會創(chuàng)新發(fā)展的同時，也可能引發(fā)一系列安全挑戰(zhàn)。北京大學教授陳鐘從人工智能賦能網(wǎng)絡(luò)攻擊的新興威脅場景、技術(shù)現(xiàn)狀、發(fā)展趨勢以及應對之道進行詳細解讀，他表示未來網(wǎng)絡(luò)安全將呈現(xiàn)零信任、無邊界、賽博化的特點，人工智能面臨著軟件漏洞、系統(tǒng)安全、網(wǎng)絡(luò)安全、傳感器欺騙、數(shù)據(jù)投毒等五大威脅。因此人工智能系統(tǒng)在被廣泛使用之前，需要保證系統(tǒng)將以受控、充分定義和充分理解的方式安全地操作。陳鐘強調(diào)，需要進一步加強對人工智能技術(shù)的攻關(guān)，積極探索人工智能與區(qū)塊鏈的融合發(fā)展，使互聯(lián)變互信，創(chuàng)造更加安全、可信的美好未來。

北京大學教授陳鐘

　　隨后，中國科學院大學教授、博士生導師、密碼學院院長、數(shù)據(jù)保護研究中心主任荊繼武向與會者分享了對智能時代信息化發(fā)展形勢的判斷，講述了信息安全技術(shù)的新方向——白盒化。他表示，人工智能技術(shù)正在加速網(wǎng)絡(luò)共同體的形成，安全技術(shù)將逐步走向開放化、白盒化，他以“密碼算法的保密與開放”、“技術(shù)細節(jié)的保密與開放”為例對其進行深入解讀。他強調(diào)，白盒化的安全是未來全球安全市場的重要方向，它的發(fā)展需得到市場支持，公開體系結(jié)構(gòu)，從而推動安全技術(shù)產(chǎn)品的專業(yè)化完善和深度融合。

　　中國科學院大學教授、博士生導師、密碼學院院長、數(shù)據(jù)保護研究中心主任荊繼武

　　目前真正能代表人工智能最前沿發(fā)展的莫過于深度學習，尤其是深度學習在無人駕駛、醫(yī)療決策等領(lǐng)域的應用。浙江大學 "百人計劃"研究員、博士生導師、浙江大學濱江研究院國產(chǎn)信創(chuàng)研究中心副主任紀守領(lǐng)以《深度學習模型的安全可解釋性與魯棒性》為主題分享了在深度學習模型上的研究成果，并從對抗樣本攻防對深度學習模型的魯棒性進行了拆解，從模型層面、數(shù)據(jù)層面、承載系統(tǒng)層面對深度學習模型的安全性進行分享。

　　浙江大學 "百人計劃"研究員、博士生導師、浙江大學濱江研究院國產(chǎn)信創(chuàng)研究中心副主任紀守領(lǐng)

　　AI對抗開辟網(wǎng)絡(luò)安全新戰(zhàn)場

　　中科院信息工程研究所副主任陳愷通過實例向觀眾展示了如何利用聲音、圖像中的噪聲信息“騙”過人工智能大腦，對抗自動駕駛目標識別系統(tǒng)。他表示，人工智能技術(shù)雖然廣泛應用于計算機視覺、自然語言處理、自動駕駛等領(lǐng)域，但人工智能系統(tǒng)容易受到攻擊，限制了其在關(guān)鍵安全領(lǐng)域的應用。因此提高人工智能系統(tǒng)對抗攻擊的魯棒性在人工智能進一步發(fā)展中發(fā)揮著越來越重要的作用。陳愷表示只有掌握了各種攻擊方式對于人工智能造成干擾的原因，才更有能力制定相應的防御思路，在模型之前可以放一些檢測器進行檢測對抗樣本，以此提升網(wǎng)絡(luò)的安全性能。

中科院信息工程研究所副主任陳愷

　　目前，針對網(wǎng)絡(luò)空間的攻擊無所不在，網(wǎng)絡(luò)安全與治理已經(jīng)成為學術(shù)界和產(chǎn)業(yè)界共同關(guān)注的科技前沿問題。北京郵電大學教授李小勇以《AI及威脅情報驅(qū)動的跨網(wǎng)系行為檢測與異常發(fā)現(xiàn)》為題，從網(wǎng)絡(luò)空間安全與威脅情報、威脅情報的發(fā)展與應用、AI及威脅情報驅(qū)動的跨網(wǎng)系異常檢測這三個方面進行了分享。他指出，利用異構(gòu)多源行為大數(shù)據(jù)高效感知、IP流量異常行為高效識別與利用、空口異常行為精準識別與利用、跨網(wǎng)系異常行為融合分析與態(tài)勢感知等關(guān)鍵技術(shù)可以進行跨網(wǎng)系異常檢測，智能威脅云的情報可以減少攻擊面、監(jiān)測未知威脅、實時安全防護，實現(xiàn)智能防御。

北京郵電大學教授李小勇

　　共建開放創(chuàng)新的AI安全生態(tài)

　　近年來，人工智能技術(shù)的發(fā)展和應用不斷推動著網(wǎng)絡(luò)安全攻防自動化和智能化的水平，目前已經(jīng)在惡意代碼檢測、惡意流量分析、漏洞挖掘、僵尸網(wǎng)絡(luò)檢測、網(wǎng)絡(luò)灰產(chǎn)檢測等各領(lǐng)域有了廣泛的應用。360集團AI安全實驗室主任鄒權(quán)臣在演講中表示，各個場景、各個領(lǐng)域的人工智能系統(tǒng)都存在著被攻擊和被欺騙的可能，因此亟需構(gòu)建人工智能安全創(chuàng)新環(huán)境，通過開源開放與高等院校和科研院所進行對接與成果轉(zhuǎn)化，促進人工智能安全行業(yè)持續(xù)、健康、快速發(fā)展。值得一提的是，360安全大腦成功入選科技部“國家新一代人工智能開放創(chuàng)新平臺”，實現(xiàn)了大規(guī)模數(shù)據(jù)集、知識庫、AI模型、算法算力的開放。目前已經(jīng)與清華大學、中科院自動化所、中科院信工所、北京瑞萊智慧科技有限公司、浙江大學等開展平臺共建合作。未來希望更多優(yōu)秀的機構(gòu)和團隊參與到這個平臺生態(tài)的建設(shè)過程中。

360集團AI安全實驗室主任鄒權(quán)臣

　　數(shù)字化轉(zhuǎn)型驅(qū)動技術(shù)變革，傳統(tǒng)的IT架構(gòu)被顛覆，未知威脅變得更隱蔽，因此智能、堅固的安全體系比以往任何時候都重要，因此構(gòu)建主動感知、敏捷智能、精準預警、全時可用的云網(wǎng)邊端一體化安全防護體系成為關(guān)鍵。新華三技術(shù)有限公司安全研究院院長顧成杰在演講中強調(diào)，云智原生將賦予企業(yè)和組織與生俱來的云與智能的架構(gòu)和能力，加速釋放數(shù)據(jù)價值，企業(yè)要以原生的思維構(gòu)建云安全體系，驅(qū)動安全與云計算深度融合；通過全域同構(gòu)，實現(xiàn)公有云、私有云、邊緣云多場景的安全統(tǒng)一、極簡運營、一致體驗；通過多云管理，打造同構(gòu)/異構(gòu)多云安全一體化服務(wù)，打通本地和公有云側(cè)的安全能力。

新華三技術(shù)有限公司安全研究院院長顧成杰

　　隨著人工智能技術(shù)步入快車道，人工智能芯片使用成本的快速降低，深度學習框架等核心技術(shù)的開源與共享，AIoT智能硬件的快速發(fā)展，均在助力人工智能行業(yè)成功破圈。在智能物聯(lián)網(wǎng)（AIoT）時代，智能硬件產(chǎn)品正在逐步融入我們的生活，進一步改變我們的生活方式。360智慧生活集團技術(shù)中心總經(jīng)理、360集團硬件專業(yè)委員會執(zhí)行主席孫浩在演講表示，這個趨勢對應的是AI算力的平民化、邊緣化，即使在算法理論沒有進一步突破的前提下，AI能夠憑借更加低廉的硬件結(jié)合邊緣，融入終端設(shè)備，走入生活給整個行業(yè)來巨變。隨后，孫浩從AIoT融入家庭安全和智能家居場景的維度對360在智慧生活領(lǐng)域的思考和實踐做了分享。

　　360智慧生活集團技術(shù)中心總經(jīng)理、360集團硬件專業(yè)委員會執(zhí)行主席孫浩

　　可以預見，數(shù)字時代，人工智能作為最具顛覆性和戰(zhàn)略性的核心關(guān)鍵技術(shù)，與網(wǎng)絡(luò)安全相輔相成。人工智能可以提升網(wǎng)絡(luò)安全工作的的效率，網(wǎng)絡(luò)安全也要為人工智能的發(fā)展保駕護航。但人工智能安全不是任何一家公司、社區(qū)能夠獨立解決的問題，因此，需要構(gòu)建開放創(chuàng)新的AI安全生態(tài)助力人工智能技術(shù)的穩(wěn)健發(fā)展。