久久精品99-久久精品99无色码中文字幕-久久精品成人免费网站-久久精品高清-人人澡人人澡人人看青草-人人做人人爽人人爱秋霞影视

【全球熱聞】深化交流合作 筑牢AI安全屏障

2023-06-25 10:41:09來源：人民郵電報(bào)  

ChatGPT寫文章調(diào)代碼，文心一言巧解雞兔同籠數(shù)學(xué)題，Microsoft 365Copilot幫“打工人”做PPT，Midjourney V5繪制的20世紀(jì)90年代中國(guó)情侶刷屏朋友圈……人工智能領(lǐng)域的大事一件接著一件，令人欣喜，也引人擔(dān)憂。擔(dān)心被AI“搶飯碗”，擔(dān)心AI發(fā)展過快超出人類管控的能力范圍。

最近，包括“ChatGPT之父”、OpenAI創(chuàng)始人兼CEO山姆·阿爾特曼，谷歌DeepMind公司CEO戴密斯·哈薩比斯以及美國(guó)Anthropic公司的CEO達(dá)里奧·阿莫代伊在內(nèi)的一眾AI界大佬聯(lián)名簽署了一封公開信，信的內(nèi)容很短，加上the和a在內(nèi)僅有22個(gè)單詞。字?jǐn)?shù)少，但信息量很大。信中這樣說：“與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一樣，緩解人工智能導(dǎo)致的滅絕風(fēng)險(xiǎn)應(yīng)該被視作全球的優(yōu)先事項(xiàng)?！毙胖邪袮I提到了與流行病和核戰(zhàn)爭(zhēng)同樣的級(jí)別，足以見得AI野蠻生長(zhǎng)帶來的問題的嚴(yán)重性。比如AI系統(tǒng)設(shè)計(jì)不當(dāng)或被惡意使用，可能會(huì)讓歧視和偏見不斷固化、虛假信息蔓延、隱私數(shù)據(jù)泄露……呼吁全球通力合作，對(duì)人工智能進(jìn)行規(guī)范與監(jiān)管，共同去應(yīng)對(duì)、去解決AI超速發(fā)展帶來的挑戰(zhàn)。


(資料圖片)

上一封著名的AI公開信是在3月底，距離GPT-4發(fā)布僅兩周時(shí)間。包括特斯拉CEO埃隆·馬斯克在內(nèi)的1000多名企業(yè)高管、學(xué)界專家聯(lián)署發(fā)表公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，暫停至少6個(gè)月。

為什么全球頂尖AI公司的高管和學(xué)界大咖要呼吁限制AI發(fā)展，他們?cè)趽?dān)心些什么？或許是AI快速發(fā)展在帶給人們驚喜的同時(shí)也帶來了未知，有些問題甚至連開發(fā)者本身都無能為力。

近日，在2023北京智源大會(huì)上，阿爾特曼呼吁全球各方就AI安全問題通力合作，建立國(guó)際通行的AI安全標(biāo)準(zhǔn)，并推進(jìn)人工智能對(duì)齊（AI alignment，即引導(dǎo)AI系統(tǒng)的表現(xiàn)，使其符合設(shè)計(jì)者的預(yù)期目標(biāo)）研究。他提出，可以嘗試使用AI系統(tǒng)輔助人類來監(jiān)督其他AI系統(tǒng)。以未來的AGI（通用人工智能）系統(tǒng)為例，可能包含10萬行的二進(jìn)制代碼，人類有必要借助AI來輔助監(jiān)督，判別系統(tǒng)是否存在違規(guī)行為。除了必要性之外，這種方法的好處在于，伴隨AI技術(shù)的突破，AI監(jiān)管技術(shù)也在同步發(fā)展。

在與智源研究院理事長(zhǎng)張宏江圍繞“AI安全與對(duì)齊”議題的問答討論中，阿爾特曼談到，未來十年內(nèi)，全球很可能擁有一個(gè)非常強(qiáng)大的AI系統(tǒng)，屆時(shí)人類會(huì)面臨很多安全問題，因此，要從現(xiàn)在開始做好準(zhǔn)備。他強(qiáng)調(diào)，對(duì)于AI安全而言，建立統(tǒng)一公平的框架和測(cè)試標(biāo)準(zhǔn)，讓每個(gè)達(dá)到一定能力的AI模型都接受測(cè)試具有重要意義。他表示，解決AI對(duì)齊問題難度極大，需要來自世界各地最好的頭腦，并稱中國(guó)有很多優(yōu)秀的人工智能人才，期待中國(guó)AI研究者能為AI安全提供中國(guó)智慧。

請(qǐng)掃碼觀看視頻

劃重點(diǎn)！關(guān)于AI對(duì)齊

什么是AI對(duì)齊？

AI對(duì)齊（AI alignment）是AI控制問題中的一個(gè)主要問題，即要求AI系統(tǒng)的目標(biāo)要和人類的價(jià)值觀與利益保持一致。

實(shí)現(xiàn)AI對(duì)齊面臨哪些挑戰(zhàn)？

◆ 選擇合適的價(jià)值觀

◆ 將價(jià)值觀編碼到AI系統(tǒng)中，使系統(tǒng)表現(xiàn)與價(jià)值觀一致

◆ 選擇合適的訓(xùn)練數(shù)據(jù)

AI對(duì)齊的研究方法

DeepMind和OpenAI圍繞AI對(duì)齊分別從“提出合適的價(jià)值觀”和“用技術(shù)方法實(shí)現(xiàn)對(duì)齊”兩方面進(jìn)行研究。

在用技術(shù)方法實(shí)現(xiàn)對(duì)齊方面，DeepMind提出了一種基于“逆強(qiáng)化學(xué)習(xí)（Inverse Reinforcement Learning）”的方法，該方法關(guān)注人類的行為，能夠從行為表現(xiàn)中推斷出價(jià)值觀，并將其編碼到AI系統(tǒng)中。OpenAI則提出了一種基于“對(duì)抗訓(xùn)練（Adversarial Training）”的方法，通常用于增強(qiáng)模型的魯棒性和泛化能力，該方法可以讓AI系統(tǒng)在與人進(jìn)行交互時(shí)學(xué)習(xí)到人類的價(jià)值觀。

逆強(qiáng)化學(xué)習(xí)的關(guān)注點(diǎn)在于人類的行為，從行為表現(xiàn)推斷價(jià)值觀；而對(duì)抗訓(xùn)練的重點(diǎn)是交互，從AI系統(tǒng)與人的交互中學(xué)習(xí)價(jià)值觀。

標(biāo)簽：

相關(guān)閱讀

  • “雙首發(fā)”開辟重慶市場(chǎng)采購(gòu)貿(mào)易方式試點(diǎn)南向新通道|環(huán)球消息
    “雙首發(fā)”開辟重慶市場(chǎng)采購(gòu)貿(mào)易方式試點(diǎn)南向新通道|環(huán)球消息

    中國(guó)商務(wù)新聞網(wǎng)是商務(wù)部國(guó)際商報(bào)社主辦，國(guó)家互聯(lián)網(wǎng)信息辦公室批準(zhǔn)的國(guó)

    2023-06-25
  • 陜西漢陰：?jiǎn)栒?yīng)考比真功
    陜西漢陰：?jiǎn)栒?yīng)考比真功

    干部作風(fēng)能力如何提升？具體用什么方法？如何有效推進(jìn)？圍繞這三個(gè)關(guān)鍵

    2023-06-25

    • 相關(guān)詞

    推薦閱讀

    主站蜘蛛池模板： 草草草视频在线观看 | 人人爽人人爽人人片av | 日韩欧美亚洲国产 | 乱系列中文字幕在线视频 | 特黄特级毛片免费视 | 中文字幕一区二区三区四区 | 天天拍夜夜添久久精品中文 | 最近中文国语字幕在线播放视频 | 欧美大胆a视频 | 永久免费视频 | 在线视频亚洲 | 一菊综合网成人综合网 | 久热这里只精品99re8久 | 亚洲欧美日韩国产精品 | 日韩欧美国产成人 | 50岁老女人毛片一级亚洲 | 国产高清一区二区三区视频 | 国产三级全黄在线观看 | 久久久久久综合成人精品 | 黄色网址亚洲 | 中文字幕在线免费观看 | 一个人看的www免费视频 | 免费久久网| 黄色免费网站在线看 | 免费黄色一级视频 | 日本一区二区三区视频在线观看 | 日本免费影院 | 97人人做人人添人人爱 | 欧美视频一区二区专区 | 国产成人高清视频免费播放 | 在线视频一区二区日韩国产 | 麻豆一区二区大豆行情 | 首页 动漫 亚洲 欧美 日韩 | 亚洲成人中文 | 免费黄色三级 | 国产11一12周岁女毛片 | 黄色香蕉视频网站 | 亚洲欧洲第一页 | 777奇米影视一区二区三区 | 处videossex第一次hd| 五月天婷婷视频 |