国产传媒18精品免费观看,欧美人妻精品一区二区三区,999热线在线观看,www四虎最新成人永久网站

構(gòu)建國際標(biāo)準 讓AI在“安全護欄”內(nèi)服務(wù)人類 全球熱點評

首頁 > 科技 > > 正文

日期:2023-06-11 21:34:57    來源:科技日報    

科技日報記者 付麗麗 實習(xí)記者 裴宸緯

人工智能正在擴展人類想象力的畫布。


(相關(guān)資料圖)

“想象一下,未來十年,人工通用智能系統(tǒng)(簡稱AGI)幾乎在每一個領(lǐng)域都超過了人類的專業(yè)知識,該系統(tǒng)最終可能超過所有大型公司的總體生產(chǎn)力。這將提高每一個人的生活水平,但同時,我們必須共同管理其可能帶來的風(fēng)險?!?月10日,在2023北京智源大會-AI安全與對齊論壇上,OpenAI聯(lián)合創(chuàng)始人薩姆·奧特曼(Sam Altman)在其主題演講中如是說。

奧特曼直言,AGI是一項關(guān)乎全球的技術(shù),不計后果地開發(fā)和部署所帶來的事故成本將影響到每一個人?!俺瑥娙斯ぶ悄堋痹谑陜?nèi)就會出現(xiàn),現(xiàn)在,盡管這項技術(shù)仍處于早期,但在全球范圍內(nèi)建立合作的標(biāo)準和框架是必要的。奧特曼呼吁,人類需要為AI構(gòu)筑“安全護欄”,使之更好地服務(wù)人類。

智源研究院院長、北京大學(xué)計算機學(xué)院教授黃鐵軍也表示,今年,一批大模型問世,人工智能出現(xiàn)了六七十年來里程碑式的新特性——涌現(xiàn)性,即能夠產(chǎn)生預(yù)料之外的新能力,這也引發(fā)了新的擔(dān)憂。

人們擔(dān)心,由于AI會涌現(xiàn)出各種各樣預(yù)料之外的可能,因此很難對其進行監(jiān)管?!斑@是一個巨大挑戰(zhàn)。”黃鐵軍坦言,“但這并不意味著人們無法對AI進行管理?!彼硎?,人類和AI相似,同樣也是不可預(yù)測的智能系統(tǒng)。實踐證明,倫理、法律法規(guī)等方式很好地為人類樹立了規(guī)范。如何管理一個創(chuàng)造性極強的系統(tǒng),社會學(xué)、歷史學(xué)等學(xué)科都能提供很好的借鑒意義。

技術(shù)層面,奧特曼介紹,OpenAI正在推進對齊研究,讓AGI與人類價值觀保持一致并遵循人類意圖?!拔覀儜?yīng)該在促進和引導(dǎo)AI對齊和安全研究方向進行投資?!眾W特曼說。

未來的AGI系統(tǒng)或許具有10萬行二進制代碼,人類監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。

奧特曼也表示,對數(shù)據(jù)集參數(shù)極其龐大的大模型而言,很難以人力的方式逐一讓AI與人類價值觀“對齊”。為此,可使用一種名為“可拓展監(jiān)督”的方式?!拔覀兛梢試L試使用AI系統(tǒng)來協(xié)助人類監(jiān)督其他AI系統(tǒng)?!彼f,這種方式的最終目標(biāo),是訓(xùn)練AI系統(tǒng)來幫助人類進行對齊研究。

同時,還要加強合作。奧特曼認為,隨著越來越強大的人工智能系統(tǒng)的出現(xiàn),全球合作變得前所未有的重要。首先,在技術(shù)研發(fā)過程中建立平等、統(tǒng)一的國際規(guī)范和標(biāo)準,以便所有國家都能使用AGI;其次,通過國際合作,以可驗證的方式,建立全球?qū)θ找鎻姶蟮娜斯ぶ悄芟到y(tǒng)安全開發(fā)的信任體系。

做到上述兩點并不容易,需要國際科技界的通力合作,特別是在推動建立提高人工智能系統(tǒng)安全技術(shù)進步方面的透明度和知識共享的機制方面。當(dāng)研究人員發(fā)現(xiàn)新出現(xiàn)的安全問題時,應(yīng)及時分享他們的見解,以實現(xiàn)利益的最大化?!拔覀冃枰J真思考,如何在尊重和保護知識產(chǎn)權(quán)的同時,鼓勵這樣的規(guī)范。這可以為深化合作打開新的大門。”奧特曼說。

“中國擁有世界上一些最優(yōu)秀的AI系統(tǒng)?!眾W特曼表示,“真誠希望中國和美國的研究人員能對AI領(lǐng)域的國際合作作出貢獻?!?/p>

關(guān)鍵詞:

下一篇:深中通道海底隧道正式合龍 深圳、中山伶仃洋海底順利“牽手”
上一篇:最后一頁

科技

 
美女用丝袜脚喂男生吃蛋糕| 亚洲国产精品自在自线观看| 亚洲av在线观看| 梦精爱2| 高h喷水荡肉自慰爽文np | 狠狠噜天天噜日日噜| jizzjizz欧美69巨大| 日本a片无码中文字幕电影| 乱码丰满人妻一二三区麻豆| 精品一区二区三区免费视频| 免费无码国产欧美久久18| 张栢芝被柔到高潮下不了床 | 女人和公牛做了又大又长又爽| 把女邻居弄到潮喷的性经历| 一路向西在线观看完整版| 亚洲国产精品无码久久久久高潮| 午夜精品乱人伦小说区| 被老师摸着jj勃起有14厘米| 24小时日本高清在线观看电影| 不~太大了会坏掉的| 年轻的女士2在线观看| 手机在线看片| yellow在线视频高清免费观看| 人妻精品久久久久中文字幕| 女人被添全过程a片试看v| 久久久久久亚洲av无码专区| 无码人妻丰满熟妇区毛片| 久久精品女人天堂AV麻| 久久精品国产欧美日韩| 亚洲一区二区三区国产精华液 | gogo全球大胆高清人体444| 国模嫣然生殖欣赏337p| 无套无码孕妇啪啪| 婷婷亚洲五月色综合久久| 双乳被和尚揉着玩弄| 久久精品一区二区三区四区| 下乡供我的发泄村妇| 亚洲av无码国产精品色| 伊人色综合久久天天伊人| 女厕脱裤撒尿大全视频| 日木av无码专区亚洲av毛片|