中國工程院院士鄔江興:用內生安全的方法解決AI安全問題
當前許多AI系統模型和算法難以確保訓練過程中數據質量和清潔度,模型設計的安全性、訓練的穩定性都存在大的問題。因此對于遍地開花、泛在化AI應用系統,各種內生安全問題和危險必然是層出不窮。
(相關資料圖)
AI應用系統硬件環境也存在漏洞、后門等內生安全的共性問題,這是網絡空間一大麻煩事。漏洞難以完全避免,后門無法杜絕,現有技術能力無法徹查漏洞,這是它的共性問題。
近日在北京召開的第十一屆互聯網安全大會(ISC 2023)上,中國工程院院士鄔江興發表了題為《動態異構冗余(DHR)構造賦能AI應用系統內生安全實驗》的演講。鄔江興提出,AI時代是一把“雙刃劍”,在給人類社會帶來極大推動的同時,也形成了潛在的巨大安全威脅,甚至可能會帶來巨大的災難。要高度重視AI時代的安全性,用內生安全的方法補齊短板。
當前,以深度學習為核心的AI應用迎來新一輪快速發展期,人工智能技術取得突破,人工智能或生成式AI正在為各領域提供信息化、數字化、智能化的解決方案,正在引發經濟結構的重大變革,帶動社會生產力的整體躍升。
人工智能安全問題包含內生安全問題和非內生安全問題,內生安全問題又分為個性問題和共性問題。人工智能的應用系統由基礎軟硬件、環境或者數據系統和人工智能的算法、模型組成的。但是深度學習AI模型存在3種可能的問題。
神經網絡的黑盒特點,導致人工智能存在不可解釋性。深度學習對訓練樣本的過度依賴,導致學習結果不可判定,神經網絡的前項推進不可逆,結果的不可推論性。這就是人工智能“三不可”。
關于個性問題的表現,從數據采集、模型設計、訓練、尋找規律到基于優化執行任務的推理階段,存在4種個性,即算法的黑箱性、數據的依賴性、模型的安全性以及輸入的敏感性。
當前許多AI系統模型和算法難以確保訓練過程中數據質量和清潔度,模型設計的安全性、訓練的穩定性都存在大的問題。因此對于遍地開花、泛在化AI應用系統,各種內生安全問題和危險必然是層出不窮。
除了個性問題,AI應用系統硬件環境也存在漏洞、后門等內生安全的共性問題,這是網絡空間一大麻煩事。漏洞難以完全避免,后門無法杜絕,現有技術能力無法徹查漏洞,這是它的共性問題。
AI應用系統中內生安全個性和共性問題往往是交織疊加存在的,既有漏洞、后門引起的問題,又有黑盒效應引起的問題,所以它是更復雜的一個安全系統。交織疊加在一起使得AI應用系統的安全問題變得極其復雜,給安全使用和維護帶來了前所未有的挑戰。
鄔江興提出用內生安全理論里的DHR構造賦能AI應用系統內生安全。它可以有效阻斷和控制內生安全共性問題,使內生安全問題難以發展成為內生安全事件。近年來的理論研究與工程實踐表明,內生安全在機理上能有效解決AI應用系統軟硬件環境中存在的內生安全共性問題,能為AI應用系統的數據采集、模型訓練、算法應用等全流程提供“三高”(高可靠、高可信、高可用)的不依賴又不排斥任何附加防御措施的內生安全底座。
在此基礎上,鄔江興對個性化問題進行理論分析,得出7條結論:第一,訓練數據集的高質量構建,特別是采用分布概率密度高的數據,對模型抗攻擊能力的提升更重要;第二,異構可解釋性或者差異化的訓練模型方法能夠得到多樣化的AI模型,因為內生安全需要多樣化的環境做相對性判定;第三,基于彩票假設證明了不同結構及相同結構不同稀疏程度的深度學習網絡之間很難產生共模;第四,使用網絡結構自動搜索技術可以快速構建多個具有特異性深度學習AI模型;第五,對抗樣本遷移性對深度神經網絡的結構存在強關聯,異構化模型的冗余部署是必不可少的安全機制;第六,理論上可以證明多個異構化模型的隨機動態部署方法,能顯著增強AI應用系統安全性;第七,AI模型不確定度估計方法能夠為DHR架構執行動態調度算法提供最優化理論支撐。
鄔江興認為,這些理論研究證明了即便是AI個性化問題,我們仍然可以用內生安全的方法來處理。不論是共性還是個性問題,基于AI模型構造提供工程化的解決途徑,并提供理論層面的支撐。
標簽:
相關閱讀
精彩推薦
閱讀排行
相關詞
- 南洲街開展“推動高質量發展,砥礪奮進新征程”主題黨日活動
- 央行再次打開降息通道 MLF利率下調15個基點
- 年內二次下調!MLF操作中標利率下降 釋放啥信號
- 外匯局:7月份我國外匯市場運行保持理性有序
- 今年一季度優信集團零售交易量為2259輛,同比增長22.2%
- 川發龍蟒(002312):8月15日北向資金減持97.77萬股
- 國家外匯管理局深夜發聲:7月外資總體凈買入境內股票和債券
- 友阿股份(002277):8月15日北向資金增持38.93萬股
- 華表柱手繪簡筆畫上面_華表柱手繪簡筆畫
- 電腦開機慢什么情況(電腦開機慢跟什么有關)
- 不分手的戀愛吉他譜c調(不分手的戀愛吉他)
- 國家發展改革委增加安排5億元投資支持6省(市)災后應急恢復重建
- 寧夏師范學院學人文庫 第4輯民國阿拉善紀事(關于寧夏師范學院學人文庫 第4輯民國阿拉善紀事簡述)
- 歐巴是什么意思網絡語言(歐巴是什么意思)
- “灣區少年營”暨青少年營地教育論壇啟動 百余名深港澳青少年踏上研學之旅
- 今天國際:長風破浪會有時,直掛云帆濟滄海
- 四葉草劇場:2023-8-14公會戰-討伐招募攻略
- 博杰股份: 關于部分限制性股票回購注銷完成的公告
- 恒天然:8月15日全球乳品貿易(GDT)拍賣價格指數下降7.4%
- 公司博餅獎品一般買什么(公司博餅獎品)
- 2023海南自貿港女性創新創業大賽半決賽??陂_賽 240個項目展開比拼
- 黑暗走廊2什么時候出 公測上線時間預告
- 《新天龍八部手游》峨眉門派玩法攻略
- Fashion Competition Game Sim什么時候出 公測上線時間預告
- 定安發起2023年希望工程助力鄉村振興圓夢行動“一元捐”倡議
- 一顆排球 四海鄉愁
- 海南發布4起損害環境資源典型案例
- 光標英文對照(光標英文)
- 王牌射擊特工好玩嗎 王牌射擊特工玩法簡介
- 逆襲啊老六好玩嗎 逆襲啊老六玩法簡介
- “立秋不排毒,身體常年堵”,立秋后常吃它,排毒祛濕一身輕
- 全球首臺可變徑斜井掘進機始發!變徑開挖、50度超大傾角爬坡
- 風光無限好!帶你了解河北這些光伏電站、風電場→
- 內蒙古霍林河露天煤礦變綠記
- 第31屆世界大學生夏季運動會志愿者全面上崗
- 工信部:上半年全國各類服務機構服務企業共計700多萬家
- 東環街開展黨建引領“消防安全進家園”專項系列活動
- 中國國家金融監督管理總局省市兩級派出機構統一掛牌
- 博眾精工(688097.SH)擬斥6000萬元參設產業基金 提升公司整體盈利能力
- “句芒號”衛星、毸酷“新材料”,服貿會環境服務專題展亮點頻出
- 北京市消協:把健康安全放在首位 慎重選擇醫美消費
- 外匯局:7月銀行結售匯呈現小幅逆差,境內外匯供求保持基本平衡
- 國家防總針對京津冀啟動防汛四級應急響應
- 南京祿口國際機場往返鄂州全貨機航線正式開通
- 房地產市場處于調整階段 政策利好之下預計4季度企穩回升
- 三部門調整海南自貿港交通工具及游艇“零關稅”政策
- ??诃偵健帮w鷹”快速偵破電池失竊案 企業贈送錦旗感謝
- 白云機場(廣州南站)空鐵中轉服務點正式啟用
- 生成式人工智能新規今日實施:不得侵害他人信息隱私
- 韓鈞會見浙江省副省長李巖益
- 方塊沖刺跳躍幾何什么時候出 公測上線時間預告
- 第31屆世界大學生夏季運動會火炬傳遞成都站第四日活動舉行
- 宜春機場旅客吞吐量累計完成500萬人次
- Sworlds什么時候出 公測上線時間預告
- 國內飛行時間最長直飛航線南航廣州—喀什航線開通
- 五指山水滿鄉持續開展河道清理整治行動
- 全新寶馬i5國產車型完成工信部申報 軸距3105mm/電機最大功率250kW
- 旋轉小火鍋長短竹簽差距小引質疑,常州市新北消協助退還用餐費用|成功案例
- 市場監管總局印發《關于新時代加強知識產權執法的意見》
- 海南2019年以來累計修復海岸線127公里
- Sworlds好玩嗎 Sworlds玩法簡介
- 駕駛工作模擬好玩嗎 駕駛工作模擬玩法簡介
- 中國上海嘉定區郵編(上海市嘉定區郵編)
- 泣血三國好玩嗎 泣血三國玩法簡介
- 2023年空調概念龍頭股名單(8/15)
- 海南開展專項行動讓103萬本不動產證“回家”
- 明月千里寄相思出自哪首詩(明月千里寄相思下一句是什么)
- 中國人民抗日戰爭紀念雕塑園8月15日重新開園
- 換電是大佬們的偏執,還是消費新風口?
- 彈殼特攻隊直接拿捏!回響之戰這件裝備必帶
- 中國電子專用設備工業協會半導體設備年會:專家建言提高儀器設備水平
- 首屆“鋒基金”杯粵港澳青少年籃球邀請賽落幕
- 粵港澳大灣區青年在廣州奏響“融合之音”
- 江鈴汽車吳曉軍:未來三年公司將有超過10款新能源產品上市
- 731真相·親歷者說
- 依法懲治破壞森林資源 最高法發布這一司法解釋 今日起施行
- 【有藝境·鑒】2023.8.15
- 一人之下手游嘉年華怎么玩積分活動攻略詳解
- 【財智頭條】國慶中秋“黃金周”:國內機票價格將超暑期
- 皮皮蝦160元一斤,“足秤”就要280元?深圳這兩家海鮮店被立案調查!
- 變身躲貓貓捉迷藏官網在哪下載 最新官方下載安裝地址
- 2023年8月15日《萬寧新聞》完整版
- 【科學強國】每天走3967步,能降低疾病帶來的死亡風險嗎?
- 水利部和中國氣象局聯合發布藍色山洪災害氣象預警
- 模擬校園宿舍好玩嗎 模擬校園宿舍玩法簡介
- 酷酷的海南丨2023年第九屆瓊海潭門趕海節開幕 主打一個“潮” 15項主題活動亮點紛呈
- 因為地道,所以霸道~《吃遍海南島》帶你去吃重慶老火鍋啦
- 我是大天才好玩嗎 我是大天才玩法簡介
- 博德之門3米爾寇的使徒打法推薦
- 從化丨“樂享暑假,城郊街新時代文明實踐暑期活動舉行
- 《前任4》定檔,《掃毒3》狂撲,越拍越爛的系列電影還有出路嗎
- 走進廣州增城小樓鎮:仙姑故里,小樓人家!
- 紅豆集團與科大訊飛共同打造服裝大模型
- 首屆“魔燈當代”藝術博覽會12月廣州登場
- 北京十年累計增綠相當于219個奧林匹克森林公園面積大小
- 微信公眾號可以修改圖片了 最多支持3張
- 圖解海量數據中報:第二季度單季凈利潤同比減6.14%
- 杭州銀行業績快報:上半年歸母凈利潤同比增長26.29%
- 【聚焦】王振宇實地督導調研學校開學前準備工作情況
- 經濟觀察:7月中國經濟穩定恢復 政策“組合拳”料持續發力
- “股神”巴菲特最新操盤:加注住宅建筑商、西方石油
- 廣西百色全面立起征兵工作規范化建設新標準
- PGS2_17shou怒噴隊員與XDD隔空神同步,飄柔無效吃雞
- 香港往返福田高鐵推出“靈活行” 助力港深乘客便捷出行
- 離岸美元兌人民幣匯率一度突破7.31,本輪波動告一段落?
- 寶寶起了病毒性疹子有什么禁忌嗎_寶寶病毒性疹子圖片
- 儋州上半年實際使用外資3.45億美元 新增外資企業56家
- 發改委增加安排5億元投資支持6?。ㄊ校暮髴被謴椭亟?/a>
- 安信證券:軍工行業或處于拐點前期
- 風險谷什么時候出 公測上線時間預告
- 矮人軍團自走棋官網在哪下載 最新官方下載安裝地址
- 空閑足球學校好玩嗎 空閑足球學校玩法簡介
- 鄰居的阿?2什么時候出 公測上線時間預告
- 星球跑酷官網在哪下載 最新官方下載安裝地址
- 陜鼓動力將于8月21日解禁1168.9萬股
- 珠江科學大講堂帶觀眾“走進”地下神秘實驗室
- 廣州市體育節丨橋牌團體賽圓滿落幕
- 人大代表深調研解難題,助力廣州高質量發展
- 航新科技(300424.SZ):股東李鳳瑞減持期滿 累計減持0.73%股份
- 騰訊音樂二季報:在線音樂收入首超社交娛樂,付費用戶破億
- 大范圍桑拿天覆蓋超20省份,高溫日歷看這里
- AI紀的引用法則
- 陽城縣召開住建領域安全生產會議
- 志愿者招募|體驗“雨林與您”,共赴海南熱帶雨林國家公園科普嘉年華
- 怪獸大破壞官網在哪下載 最新官方下載安裝地址
- 北京首個城市定制型家財險上線 保什么?保費如何?
- 廬江縣交運部門開展“夏季攻勢行動”
- 合成小黃鴨大冒險好玩嗎 合成小黃鴨大冒險玩法簡介
- 擊敗布娃娃什么時候出 公測上線時間預告
- 山東租房提取公積金有望交多少提多少,提振擴大消費若干措施來了
- 撫州市副市長蔡青到宜黃縣調研
- 東至縣委副書記、縣長唐禮虎主持召開東至縣國土空間生態修復暨礦業綠色發展一體化項目調度會
- 加菲成長日記什么時候出 公測上線時間預告
- 伊川縣領導馬建民深入部分鄉鎮調研鄉村振興重點工作
- 云端大冒險什么時候出 公測上線時間預告
- 海德股份上半年凈利潤同比增長59.45%
- 三部門:調整海南自貿港交通工具及游艇“零關稅”政策
- 中冶天府大廈、正興派出所、保利物業、國科大成都學院等招聘→
- 最新進展!東莞厚街這些市重大項目加速投產
- 鹽城大豐災后恢復重建有序開展:盡快修繕受損房屋,讓群眾早日回家
- oppo A1 Pro手機的NFC功能怎么設置
- 產業 | teamLab無相藝術空間:創造藝術與商業融合共生的更多可能
- 回應醫藥市場反腐影響 隴神戎發稱公司堅守合法合規
- 肉鴿探索新游《Million Depth》上線Steam 暫不支持中文
- 湖南武岡市龍溪鎮湖南曹家塘村肖家巷:建設美麗庭院 打造幸福生活“新引擎”
- 國盾量子:發布新一代量子計算云平臺
- “沉浸式”觀影、夜市“擺攤”、娃娃機抓“警察小熊”……這個派出所反詐宣傳有妙招
- 南極電商:目前僅與銀行合作,未購買中植、中融、光大信托機構的理財產品
- 東莞農商銀行持續深化警銀合作,成功攔截一起逾2.8萬元電信詐騙
- 旅游 | “火火楚雄”,2023年楚雄彝族火把節火力全開