在2020年CCF-GAIR(全球人工智能與機(jī)器人峰會(huì))上,浙江大學(xué)任奎教授針對(duì)人工智能與物聯(lián)網(wǎng)(AIoT)融合系統(tǒng)的安全問(wèn)題,提出了其全生命周期的保護(hù)框架。隨著AIoT系統(tǒng)在智能家居、工業(yè)互聯(lián)網(wǎng)、智慧城市等領(lǐng)域的廣泛應(yīng)用,其安全問(wèn)題日益凸顯,從硬件到軟件,從數(shù)據(jù)采集到智能決策,每個(gè)環(huán)節(jié)都可能成為攻擊者的突破口。
任奎教授指出,AIoT系統(tǒng)的全生命周期保護(hù)需要貫穿“感知-傳輸-計(jì)算-應(yīng)用-銷毀”的每一個(gè)階段。在感知層,需確保物理傳感器與執(zhí)行器的安全,防止物理篡改和側(cè)信道攻擊,并利用輕量級(jí)密碼技術(shù)保障數(shù)據(jù)采集的機(jī)密性與完整性。在傳輸層,需構(gòu)建安全的通信協(xié)議,抵御中間人攻擊和數(shù)據(jù)竊聽(tīng),尤其是在資源受限的設(shè)備上實(shí)現(xiàn)高效的安全傳輸。
在計(jì)算層(邊緣與云端),保護(hù)重點(diǎn)轉(zhuǎn)向AI模型本身。這包括:1) 訓(xùn)練數(shù)據(jù)安全:防止數(shù)據(jù)投毒攻擊,確保訓(xùn)練數(shù)據(jù)的質(zhì)量與隱私;2) 模型安全:防御對(duì)抗樣本攻擊,通過(guò)模型魯棒性增強(qiáng)、可解釋性分析及模型水印等技術(shù)保護(hù)知識(shí)產(chǎn)權(quán);3) 推理安全:在邊緣或云端執(zhí)行推理時(shí),保障計(jì)算過(guò)程的機(jī)密性,防止模型竊取。
在應(yīng)用層,需確保AIoT服務(wù)的訪問(wèn)控制與隱私保護(hù)。通過(guò)動(dòng)態(tài)信任管理、細(xì)粒度權(quán)限控制和隱私計(jì)算(如聯(lián)邦學(xué)習(xí)、安全多方計(jì)算)技術(shù),在提供智能服務(wù)的最小化用戶隱私數(shù)據(jù)的暴露風(fēng)險(xiǎn)。在設(shè)備退役與銷毀階段,必須安全擦除敏感數(shù)據(jù)和模型參數(shù),防止信息殘留導(dǎo)致的數(shù)據(jù)泄露。
任奎教授強(qiáng)調(diào),實(shí)現(xiàn)這種跨軟硬件的全棧保護(hù),需要硬件安全原語(yǔ)(如可信執(zhí)行環(huán)境TEE)、安全的操作系統(tǒng)、輕量級(jí)密碼協(xié)議與AI安全技術(shù)的協(xié)同創(chuàng)新。建立貫穿系統(tǒng)生命周期的動(dòng)態(tài)安全評(píng)估與更新機(jī)制也至關(guān)重要。
在CCF-GAIR 2020的分享中,任奎教授團(tuán)隊(duì)展示的成果為構(gòu)建下一代安全、可信的AIoT系統(tǒng)提供了重要的理論框架與實(shí)踐方向,推動(dòng)了學(xué)術(shù)界與產(chǎn)業(yè)界對(duì)智能系統(tǒng)深層安全挑戰(zhàn)的重視與協(xié)同攻關(guān)。
如若轉(zhuǎn)載,請(qǐng)注明出處:http://m.ynanbang.cn/product/28.html
更新時(shí)間:2026-02-24 03:14:15