中國工程院院士鄔江興:用內(nèi)生安全的方法解決AI安全問題
當前許多AI系統(tǒng)模型和算法難以確保訓練過程中數(shù)據(jù)質(zhì)量和清潔度,模型設(shè)計的安全性、訓練的穩(wěn)定性都存在大的問題。因此對于遍地開花、泛在化AI應用系統(tǒng),各種內(nèi)生安全問題和危險必然是層出不窮。
(相關(guān)資料圖)
AI應用系統(tǒng)硬件環(huán)境也存在漏洞、后門等內(nèi)生安全的共性問題,這是網(wǎng)絡(luò)空間一大麻煩事。漏洞難以完全避免,后門無法杜絕,現(xiàn)有技術(shù)能力無法徹查漏洞,這是它的共性問題。
近日在北京召開的第十一屆互聯(lián)網(wǎng)安全大會(ISC 2023)上,中國工程院院士鄔江興發(fā)表了題為《動態(tài)異構(gòu)冗余(DHR)構(gòu)造賦能AI應用系統(tǒng)內(nèi)生安全實驗》的演講。鄔江興提出,AI時代是一把“雙刃劍”,在給人類社會帶來極大推動的同時,也形成了潛在的巨大安全威脅,甚至可能會帶來巨大的災難。要高度重視AI時代的安全性,用內(nèi)生安全的方法補齊短板。
當前,以深度學習為核心的AI應用迎來新一輪快速發(fā)展期,人工智能技術(shù)取得突破,人工智能或生成式AI正在為各領(lǐng)域提供信息化、數(shù)字化、智能化的解決方案,正在引發(fā)經(jīng)濟結(jié)構(gòu)的重大變革,帶動社會生產(chǎn)力的整體躍升。
人工智能安全問題包含內(nèi)生安全問題和非內(nèi)生安全問題,內(nèi)生安全問題又分為個性問題和共性問題。人工智能的應用系統(tǒng)由基礎(chǔ)軟硬件、環(huán)境或者數(shù)據(jù)系統(tǒng)和人工智能的算法、模型組成的。但是深度學習AI模型存在3種可能的問題。
神經(jīng)網(wǎng)絡(luò)的黑盒特點,導致人工智能存在不可解釋性。深度學習對訓練樣本的過度依賴,導致學習結(jié)果不可判定,神經(jīng)網(wǎng)絡(luò)的前項推進不可逆,結(jié)果的不可推論性。這就是人工智能“三不可”。
關(guān)于個性問題的表現(xiàn),從數(shù)據(jù)采集、模型設(shè)計、訓練、尋找規(guī)律到基于優(yōu)化執(zhí)行任務的推理階段,存在4種個性,即算法的黑箱性、數(shù)據(jù)的依賴性、模型的安全性以及輸入的敏感性。
當前許多AI系統(tǒng)模型和算法難以確保訓練過程中數(shù)據(jù)質(zhì)量和清潔度,模型設(shè)計的安全性、訓練的穩(wěn)定性都存在大的問題。因此對于遍地開花、泛在化AI應用系統(tǒng),各種內(nèi)生安全問題和危險必然是層出不窮。
除了個性問題,AI應用系統(tǒng)硬件環(huán)境也存在漏洞、后門等內(nèi)生安全的共性問題,這是網(wǎng)絡(luò)空間一大麻煩事。漏洞難以完全避免,后門無法杜絕,現(xiàn)有技術(shù)能力無法徹查漏洞,這是它的共性問題。
AI應用系統(tǒng)中內(nèi)生安全個性和共性問題往往是交織疊加存在的,既有漏洞、后門引起的問題,又有黑盒效應引起的問題,所以它是更復雜的一個安全系統(tǒng)。交織疊加在一起使得AI應用系統(tǒng)的安全問題變得極其復雜,給安全使用和維護帶來了前所未有的挑戰(zhàn)。
鄔江興提出用內(nèi)生安全理論里的DHR構(gòu)造賦能AI應用系統(tǒng)內(nèi)生安全。它可以有效阻斷和控制內(nèi)生安全共性問題,使內(nèi)生安全問題難以發(fā)展成為內(nèi)生安全事件。近年來的理論研究與工程實踐表明,內(nèi)生安全在機理上能有效解決AI應用系統(tǒng)軟硬件環(huán)境中存在的內(nèi)生安全共性問題,能為AI應用系統(tǒng)的數(shù)據(jù)采集、模型訓練、算法應用等全流程提供“三高”(高可靠、高可信、高可用)的不依賴又不排斥任何附加防御措施的內(nèi)生安全底座。
在此基礎(chǔ)上,鄔江興對個性化問題進行理論分析,得出7條結(jié)論:第一,訓練數(shù)據(jù)集的高質(zhì)量構(gòu)建,特別是采用分布概率密度高的數(shù)據(jù),對模型抗攻擊能力的提升更重要;第二,異構(gòu)可解釋性或者差異化的訓練模型方法能夠得到多樣化的AI模型,因為內(nèi)生安全需要多樣化的環(huán)境做相對性判定;第三,基于彩票假設(shè)證明了不同結(jié)構(gòu)及相同結(jié)構(gòu)不同稀疏程度的深度學習網(wǎng)絡(luò)之間很難產(chǎn)生共模;第四,使用網(wǎng)絡(luò)結(jié)構(gòu)自動搜索技術(shù)可以快速構(gòu)建多個具有特異性深度學習AI模型;第五,對抗樣本遷移性對深度神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)存在強關(guān)聯(lián),異構(gòu)化模型的冗余部署是必不可少的安全機制;第六,理論上可以證明多個異構(gòu)化模型的隨機動態(tài)部署方法,能顯著增強AI應用系統(tǒng)安全性;第七,AI模型不確定度估計方法能夠為DHR架構(gòu)執(zhí)行動態(tài)調(diào)度算法提供最優(yōu)化理論支撐。
鄔江興認為,這些理論研究證明了即便是AI個性化問題,我們?nèi)匀豢梢杂脙?nèi)生安全的方法來處理。不論是共性還是個性問題,基于AI模型構(gòu)造提供工程化的解決途徑,并提供理論層面的支撐。
標簽:
相關(guān)閱讀
-
中國工程院院士鄔江興:用內(nèi)生安全的方法解決AI安全問題
當前許多AI系統(tǒng)模型和算法難以確保訓練過程中數(shù)據(jù)質(zhì)量和清潔度,模型設(shè)
2023-08-16 -
第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波:夯實數(shù)據(jù)安全基座
近日,在北京舉辦的第十一屆互聯(lián)網(wǎng)安全大會(ISC2023)上,第十三屆全
2023-08-16 -
第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波:夯實數(shù)據(jù)安全基座
近日,在北京舉辦的第十一屆互聯(lián)網(wǎng)安全大會(ISC2023)上,第十三屆全
2023-08-16 -
聯(lián)通智網(wǎng)科技打造智能網(wǎng)聯(lián)示范基地新標桿
“目前,全國50多個省市出臺智能網(wǎng)聯(lián)汽車測試規(guī)定,累計發(fā)放道路測試和
2023-08-15 -
中國工程院院士鄔江興:用內(nèi)生安全的方法解決AI安全問題
當前許多AI系統(tǒng)模型和算法難以確保訓練過程中數(shù)據(jù)質(zhì)量和清潔度,模型設(shè)
2023-08-16 -
第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波:夯實數(shù)據(jù)安全基座
近日,在北京舉辦的第十一屆互聯(lián)網(wǎng)安全大會(ISC2023)上,第十三屆全
2023-08-16 -
第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波:夯實數(shù)據(jù)安全基座
近日,在北京舉辦的第十一屆互聯(lián)網(wǎng)安全大會(ISC2023)上,第十三屆全
2023-08-16 -
達夢數(shù)據(jù):領(lǐng)跑國產(chǎn)數(shù)據(jù)庫管理系統(tǒng)市場
近日,調(diào)研機構(gòu)賽迪顧問發(fā)布的《2022-2023年中國平臺軟件市場研究年度
2023-08-16 -
央行一日之內(nèi)下調(diào)三項政策工具利率,市場人士:三季度可能實施降準以補充市場流動性
App8月16日消息,一日之內(nèi),央行連續(xù)下調(diào)三項政策工具利率。8月15日上
2023-08-16 -
8月15日外匯市場行情走勢分析:隨著失業(yè)率上升,平均收益飆升,英鎊/美元出價,英國央行面臨壓力
貨幣行情走勢分析:英國最新數(shù)據(jù)顯示,英國勞動力市場好壞參半。對2023
2023-08-16 -
我國首部生態(tài)保護紅線藍皮書發(fā)布 劃定生態(tài)保護紅線面積合計約319萬平方公里
記者15日從自然資源部獲悉:在首個全國生態(tài)日主場活動現(xiàn)場,《中國生態(tài)
2023-08-16 -
“兩高”聯(lián)合發(fā)布生態(tài)環(huán)境保護檢察公益訴訟典型案例
最高人民法院、最高人民檢察院15日聯(lián)合發(fā)布了一批生態(tài)環(huán)境保護檢察公益
2023-08-16
精彩推薦
閱讀排行
相關(guān)詞
- 南洲街開展“推動高質(zhì)量發(fā)展,砥礪奮進新征程”主題黨日活動
- 央行再次打開降息通道 MLF利率下調(diào)15個基點
- 年內(nèi)二次下調(diào)!MLF操作中標利率下降 釋放啥信號
- 外匯局:7月份我國外匯市場運行保持理性有序
- 今年一季度優(yōu)信集團零售交易量為2259輛,同比增長22.2%
- 川發(fā)龍蟒(002312):8月15日北向資金減持97.77萬股
- 國家外匯管理局深夜發(fā)聲:7月外資總體凈買入境內(nèi)股票和債券
- 友阿股份(002277):8月15日北向資金增持38.93萬股
- 華表柱手繪簡筆畫上面_華表柱手繪簡筆畫
- 電腦開機慢什么情況(電腦開機慢跟什么有關(guān))
- 不分手的戀愛吉他譜c調(diào)(不分手的戀愛吉他)
- 國家發(fā)展改革委增加安排5億元投資支持6省(市)災后應急恢復重建
- 寧夏師范學院學人文庫 第4輯民國阿拉善紀事(關(guān)于寧夏師范學院學人文庫 第4輯民國阿拉善紀事簡述)
- 歐巴是什么意思網(wǎng)絡(luò)語言(歐巴是什么意思)
- “灣區(qū)少年營”暨青少年營地教育論壇啟動 百余名深港澳青少年踏上研學之旅
- 今天國際:長風破浪會有時,直掛云帆濟滄海
- 四葉草劇場:2023-8-14公會戰(zhàn)-討伐招募攻略
- 博杰股份: 關(guān)于部分限制性股票回購注銷完成的公告
- 恒天然:8月15日全球乳品貿(mào)易(GDT)拍賣價格指數(shù)下降7.4%
- 公司博餅獎品一般買什么(公司博餅獎品)
- 2023海南自貿(mào)港女性創(chuàng)新創(chuàng)業(yè)大賽半決賽海口開賽 240個項目展開比拼
- 黑暗走廊2什么時候出 公測上線時間預告
- 《新天龍八部手游》峨眉門派玩法攻略
- Fashion Competition Game Sim什么時候出 公測上線時間預告
- 定安發(fā)起2023年希望工程助力鄉(xiāng)村振興圓夢行動“一元捐”倡議
- 一顆排球 四海鄉(xiāng)愁
- 海南發(fā)布4起損害環(huán)境資源典型案例
- 光標英文對照(光標英文)
- 王牌射擊特工好玩嗎 王牌射擊特工玩法簡介
- 逆襲啊老六好玩嗎 逆襲啊老六玩法簡介
- “立秋不排毒,身體常年堵”,立秋后常吃它,排毒祛濕一身輕
- 全球首臺可變徑斜井掘進機始發(fā)!變徑開挖、50度超大傾角爬坡
- 風光無限好!帶你了解河北這些光伏電站、風電場→
- 內(nèi)蒙古霍林河露天煤礦變綠記
- 第31屆世界大學生夏季運動會志愿者全面上崗
- 工信部:上半年全國各類服務機構(gòu)服務企業(yè)共計700多萬家
- 東環(huán)街開展黨建引領(lǐng)“消防安全進家園”專項系列活動
- 中國國家金融監(jiān)督管理總局省市兩級派出機構(gòu)統(tǒng)一掛牌
- 博眾精工(688097.SH)擬斥6000萬元參設(shè)產(chǎn)業(yè)基金 提升公司整體盈利能力
- “句芒號”衛(wèi)星、毸酷“新材料”,服貿(mào)會環(huán)境服務專題展亮點頻出
- 北京市消協(xié):把健康安全放在首位 慎重選擇醫(yī)美消費
- 外匯局:7月銀行結(jié)售匯呈現(xiàn)小幅逆差,境內(nèi)外匯供求保持基本平衡
- 國家防總針對京津冀啟動防汛四級應急響應
- 南京祿口國際機場往返鄂州全貨機航線正式開通
- 房地產(chǎn)市場處于調(diào)整階段 政策利好之下預計4季度企穩(wěn)回升
- 三部門調(diào)整海南自貿(mào)港交通工具及游艇“零關(guān)稅”政策
- 海口瓊山“飛鷹”快速偵破電池失竊案 企業(yè)贈送錦旗感謝
- 白云機場(廣州南站)空鐵中轉(zhuǎn)服務點正式啟用
- 生成式人工智能新規(guī)今日實施:不得侵害他人信息隱私
- 韓鈞會見浙江省副省長李巖益
- 方塊沖刺跳躍幾何什么時候出 公測上線時間預告
- 第31屆世界大學生夏季運動會火炬?zhèn)鬟f成都站第四日活動舉行
- 宜春機場旅客吞吐量累計完成500萬人次
- Sworlds什么時候出 公測上線時間預告
- 國內(nèi)飛行時間最長直飛航線南航廣州—喀什航線開通
- 五指山水滿鄉(xiāng)持續(xù)開展河道清理整治行動
- 全新寶馬i5國產(chǎn)車型完成工信部申報 軸距3105mm/電機最大功率250kW
- 旋轉(zhuǎn)小火鍋長短竹簽差距小引質(zhì)疑,常州市新北消協(xié)助退還用餐費用|成功案例
- 市場監(jiān)管總局印發(fā)《關(guān)于新時代加強知識產(chǎn)權(quán)執(zhí)法的意見》
- 海南2019年以來累計修復海岸線127公里
- Sworlds好玩嗎 Sworlds玩法簡介
- 駕駛工作模擬好玩嗎 駕駛工作模擬玩法簡介
- 中國上海嘉定區(qū)郵編(上海市嘉定區(qū)郵編)
- 泣血三國好玩嗎 泣血三國玩法簡介
- 2023年空調(diào)概念龍頭股名單(8/15)
- 海南開展專項行動讓103萬本不動產(chǎn)證“回家”
- 明月千里寄相思出自哪首詩(明月千里寄相思下一句是什么)
- 中國人民抗日戰(zhàn)爭紀念雕塑園8月15日重新開園
- 換電是大佬們的偏執(zhí),還是消費新風口?
- 彈殼特攻隊直接拿捏!回響之戰(zhàn)這件裝備必帶
- 中國電子專用設(shè)備工業(yè)協(xié)會半導體設(shè)備年會:專家建言提高儀器設(shè)備水平
- 首屆“鋒基金”杯粵港澳青少年籃球邀請賽落幕
- 粵港澳大灣區(qū)青年在廣州奏響“融合之音”
- 江鈴汽車吳曉軍:未來三年公司將有超過10款新能源產(chǎn)品上市
- 731真相·親歷者說
- 依法懲治破壞森林資源 最高法發(fā)布這一司法解釋 今日起施行
- 【有藝境·鑒】2023.8.15
- 一人之下手游嘉年華怎么玩積分活動攻略詳解
- 【財智頭條】國慶中秋“黃金周”:國內(nèi)機票價格將超暑期
- 皮皮蝦160元一斤,“足秤”就要280元?深圳這兩家海鮮店被立案調(diào)查!
- 變身躲貓貓捉迷藏官網(wǎng)在哪下載 最新官方下載安裝地址
- 2023年8月15日《萬寧新聞》完整版
- 【科學強國】每天走3967步,能降低疾病帶來的死亡風險嗎?
- 水利部和中國氣象局聯(lián)合發(fā)布藍色山洪災害氣象預警
- 模擬校園宿舍好玩嗎 模擬校園宿舍玩法簡介
- 酷酷的海南丨2023年第九屆瓊海潭門趕海節(jié)開幕 主打一個“潮” 15項主題活動亮點紛呈
- 因為地道,所以霸道~《吃遍海南島》帶你去吃重慶老火鍋啦
- 我是大天才好玩嗎 我是大天才玩法簡介
- 博德之門3米爾寇的使徒打法推薦
- 從化丨“樂享暑假,城郊街新時代文明實踐暑期活動舉行
- 《前任4》定檔,《掃毒3》狂撲,越拍越爛的系列電影還有出路嗎
- 走進廣州增城小樓鎮(zhèn):仙姑故里,小樓人家!
- 紅豆集團與科大訊飛共同打造服裝大模型
- 首屆“魔燈當代”藝術(shù)博覽會12月廣州登場
- 北京十年累計增綠相當于219個奧林匹克森林公園面積大小
- 微信公眾號可以修改圖片了 最多支持3張
- 圖解海量數(shù)據(jù)中報:第二季度單季凈利潤同比減6.14%
- 杭州銀行業(yè)績快報:上半年歸母凈利潤同比增長26.29%
- 【聚焦】王振宇實地督導調(diào)研學校開學前準備工作情況
- 經(jīng)濟觀察:7月中國經(jīng)濟穩(wěn)定恢復 政策“組合拳”料持續(xù)發(fā)力
- “股神”巴菲特最新操盤:加注住宅建筑商、西方石油
- 廣西百色全面立起征兵工作規(guī)范化建設(shè)新標準
- PGS2_17shou怒噴隊員與XDD隔空神同步,飄柔無效吃雞
- 香港往返福田高鐵推出“靈活行” 助力港深乘客便捷出行
- 離岸美元兌人民幣匯率一度突破7.31,本輪波動告一段落?
- 寶寶起了病毒性疹子有什么禁忌嗎_寶寶病毒性疹子圖片
- 儋州上半年實際使用外資3.45億美元 新增外資企業(yè)56家
- 發(fā)改委增加安排5億元投資支持6省(市)災后應急恢復重建
- 安信證券:軍工行業(yè)或處于拐點前期
- 風險谷什么時候出 公測上線時間預告
- 矮人軍團自走棋官網(wǎng)在哪下載 最新官方下載安裝地址
- 空閑足球?qū)W校好玩嗎 空閑足球?qū)W校玩法簡介
- 鄰居的阿?2什么時候出 公測上線時間預告
- 星球跑酷官網(wǎng)在哪下載 最新官方下載安裝地址
- 陜鼓動力將于8月21日解禁1168.9萬股
- 珠江科學大講堂帶觀眾“走進”地下神秘實驗室
- 廣州市體育節(jié)丨橋牌團體賽圓滿落幕
- 人大代表深調(diào)研解難題,助力廣州高質(zhì)量發(fā)展
- 航新科技(300424.SZ):股東李鳳瑞減持期滿 累計減持0.73%股份
- 騰訊音樂二季報:在線音樂收入首超社交娛樂,付費用戶破億
- 大范圍桑拿天覆蓋超20省份,高溫日歷看這里
- AI紀的引用法則
- 陽城縣召開住建領(lǐng)域安全生產(chǎn)會議
- 志愿者招募|體驗“雨林與您”,共赴海南熱帶雨林國家公園科普嘉年華
- 怪獸大破壞官網(wǎng)在哪下載 最新官方下載安裝地址
- 北京首個城市定制型家財險上線 保什么?保費如何?
- 廬江縣交運部門開展“夏季攻勢行動”
- 合成小黃鴨大冒險好玩嗎 合成小黃鴨大冒險玩法簡介
- 擊敗布娃娃什么時候出 公測上線時間預告
- 山東租房提取公積金有望交多少提多少,提振擴大消費若干措施來了
- 撫州市副市長蔡青到宜黃縣調(diào)研
- 東至縣委副書記、縣長唐禮虎主持召開東至縣國土空間生態(tài)修復暨礦業(yè)綠色發(fā)展一體化項目調(diào)度會
- 加菲成長日記什么時候出 公測上線時間預告
- 伊川縣領(lǐng)導馬建民深入部分鄉(xiāng)鎮(zhèn)調(diào)研鄉(xiāng)村振興重點工作
- 云端大冒險什么時候出 公測上線時間預告
- 海德股份上半年凈利潤同比增長59.45%
- 三部門:調(diào)整海南自貿(mào)港交通工具及游艇“零關(guān)稅”政策
- 中冶天府大廈、正興派出所、保利物業(yè)、國科大成都學院等招聘→
- 最新進展!東莞厚街這些市重大項目加速投產(chǎn)
- 鹽城大豐災后恢復重建有序開展:盡快修繕受損房屋,讓群眾早日回家
- oppo A1 Pro手機的NFC功能怎么設(shè)置
- 產(chǎn)業(yè) | teamLab無相藝術(shù)空間:創(chuàng)造藝術(shù)與商業(yè)融合共生的更多可能
- 回應醫(yī)藥市場反腐影響 隴神戎發(fā)稱公司堅守合法合規(guī)
- 肉鴿探索新游《Million Depth》上線Steam 暫不支持中文
- 湖南武岡市龍溪鎮(zhèn)湖南曹家塘村肖家巷:建設(shè)美麗庭院 打造幸福生活“新引擎”
- 國盾量子:發(fā)布新一代量子計算云平臺
- “沉浸式”觀影、夜市“擺攤”、娃娃機抓“警察小熊”……這個派出所反詐宣傳有妙招
- 南極電商:目前僅與銀行合作,未購買中植、中融、光大信托機構(gòu)的理財產(chǎn)品
- 東莞農(nóng)商銀行持續(xù)深化警銀合作,成功攔截一起逾2.8萬元電信詐騙
- 旅游 | “火火楚雄”,2023年楚雄彝族火把節(jié)火力全開