“人工智能面臨的安全問(wèn)題，可能超出很多人的想象”，8月28日，在2019智博會(huì)人工智能與安全高峰論壇上，中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)副理事長(zhǎng)杜躍進(jìn)表示，人工智能在為時(shí)代發(fā)展帶來(lái)深遠(yuǎn)影響的同時(shí)，也面臨著嚴(yán)峻的安全問(wèn)題，唯有讓人工智能和安全有機(jī)融合，才能讓人工智能有一個(gè)明亮的未來(lái)。

杜躍進(jìn)指出，智能化對(duì)“壞人”也意味著“機(jī)會(huì)”。當(dāng)下的社會(huì)都是互聯(lián)互通的，網(wǎng)絡(luò)攻擊可以從虛擬空間滲透到物理空間，其危害是空前的。他從技術(shù)層面列舉了人工智能的“七宗罪”。

一是硬件層面。很多人工智能元器件在物理層面缺乏安全保障，哪怕只有一段線路沒(méi)有進(jìn)行電磁屏蔽，也給物理干擾留下機(jī)會(huì)。二是軟件層面。任何軟件都有漏洞，它們可以被攻擊者利用，來(lái)實(shí)現(xiàn)代碼執(zhí)行、拒絕服務(wù)攻擊、控制流劫持、信息泄露等目標(biāo)。三是協(xié)議層面。很多專用通信協(xié)議設(shè)計(jì)缺乏安全考慮。四是數(shù)據(jù)層面。大數(shù)據(jù)時(shí)代有一個(gè)“黑箱悖論”，人工智能離不開(kāi)數(shù)據(jù)，但數(shù)據(jù)本身有可能被污染，這樣的人工智能就好像被“投毒”。五是業(yè)務(wù)層面，算法本身可以被欺騙、誤導(dǎo)，當(dāng)人工智能越來(lái)越多用于控制相關(guān)業(yè)務(wù)時(shí)，可能會(huì)產(chǎn)生致命性影響。六是應(yīng)用動(dòng)機(jī)層面。壞人有可能更早、更深地看到人工智能帶來(lái)的機(jī)會(huì)。如今，除了人工智能，在生物科技等很多前沿技術(shù)領(lǐng)域都有這樣的傾向，值得警惕。七是機(jī)制設(shè)計(jì)層面。模式設(shè)計(jì)考慮不充分，將導(dǎo)致事與愿違，可能產(chǎn)生非常嚴(yán)重的后果。

除了技術(shù)層面的安全挑戰(zhàn)外，杜躍進(jìn)還指出，從倫理的角度，如果我們不能建立一個(gè)人工智能的正確的價(jià)值規(guī)范，人工智能可能被壞人用來(lái)做危害人類利益的事情。從社會(huì)復(fù)雜性的角度來(lái)看，人工智能的應(yīng)用往往針對(duì)一個(gè)個(gè)需求點(diǎn)而實(shí)施，但因?yàn)樯鐣?huì)的復(fù)雜性，這種單點(diǎn)思維，可能會(huì)導(dǎo)致技術(shù)在推廣實(shí)施中事與愿違。

杜躍進(jìn)還呼吁，人工智能面臨的安全問(wèn)題需要來(lái)自安全、通信、社會(huì)學(xué)、法律等領(lǐng)域的機(jī)構(gòu)、企業(yè)、專家共同參與、解決。

杜躍進(jìn)也在講話中強(qiáng)調(diào)，人工智能同樣也是當(dāng)下解決安全問(wèn)題的利器。在大安全時(shí)代，

無(wú)論是過(guò)去的安全痼疾，還是線上線下層面的安全問(wèn)題，都可能因?yàn)槿斯ぶ悄艿膽?yīng)用而找到突破口。他指出，安全行業(yè)一定要充分認(rèn)識(shí)到，我們真正的對(duì)手不是其它競(jìng)爭(zhēng)廠商，而是那些網(wǎng)絡(luò)攻擊者、破壞者。能否幫助客戶、大眾抵御網(wǎng)絡(luò)攻擊，遏制危害，才是衡量安全企業(yè)成功與否的關(guān)鍵。

據(jù)悉，本次人工智能與安全高峰論壇由中國(guó)國(guó)際智能產(chǎn)業(yè)博覽會(huì)組委會(huì)主辦，360集團(tuán)承辦，重慶市合川區(qū)人民政府協(xié)辦。論壇還邀請(qǐng)了中國(guó)科學(xué)院院士鄭建華、中國(guó)工程院院士沈昌祥、國(guó)家密碼管理局商用密碼管理辦公室副巡視員霍煒、360集團(tuán)副總裁兼智慧城市事業(yè)部總裁穆鴻等來(lái)自產(chǎn)學(xué)研領(lǐng)域重磅嘉賓，深入探討和交流智能時(shí)代安全行業(yè)未來(lái)的發(fā)展趨勢(shì)。
免責(zé)聲明：本網(wǎng)轉(zhuǎn)載自其它媒體的文章，目的在于弘揚(yáng)科技創(chuàng)新精神，傳遞更多科技創(chuàng)新信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，在此我們謹(jǐn)向原作者和原媒體致以崇高敬意。如果您認(rèn)為本站文章侵犯了您的版權(quán)，請(qǐng)與我們聯(lián)系，我們將第一時(shí)間刪除。