圖靈獎(jiǎng)得主發(fā)起，馬斯克公開支持：必須暫停ChatGPT等所有AI系統(tǒng)的研發(fā)！

【資料圖】

隨著ChatGPT的橫空出世，人工智能目前幾乎一天一個(gè)臺(tái)階，向著人類不可預(yù)測(cè)的方向發(fā)展。

近日，加拿大蒙特利爾大學(xué)教授約書亞·本吉奧（Yoshua Bengio）嗅覺到了一絲來自人工智能的危險(xiǎn)，作為2018年圖靈獎(jiǎng)（計(jì)算機(jī)領(lǐng)域的國際最高獎(jiǎng)項(xiàng)）得主的他，發(fā)表公開信，強(qiáng)烈呼吁暫停所有比GPT4先進(jìn)的AI系統(tǒng)暫停研發(fā)6個(gè)月。如今，這一建議已在網(wǎng)上獲得了來自各領(lǐng)域超1000人的公開支持。

公開信中，約書亞·本吉奧表示：大量研究證實(shí)，能與人在智力方面競(jìng)爭(zhēng)的AI系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，高級(jí)AI雖然可能帶來世界生命史上的深刻變化，但也理應(yīng)受到相應(yīng)的管理。不幸的是，目前與AI發(fā)展相應(yīng)的規(guī)劃與管理并不存在，最近幾個(gè)月，世界各地陷入了無序的AI競(jìng)賽。沒有人，哪怕創(chuàng)造出這些系統(tǒng)的人也沒辦法預(yù)測(cè)甚至有效的實(shí)施控制。

目前，人工智能在一般工作上已經(jīng)變得與人具有同等的競(jìng)爭(zhēng)力，但我們是否也應(yīng)該先捫心自問：我們是否應(yīng)該讓它們生產(chǎn)的謊言來充斥我們的信息渠道，我們是否應(yīng)該自動(dòng)化所有的工作？我們應(yīng)該冒著失去我們對(duì)文明控制的風(fēng)險(xiǎn)來發(fā)展它們嗎？

因此，我們呼吁要求所有比GPT4先進(jìn)的AI系統(tǒng)暫停研發(fā)6個(gè)月，然后制定對(duì)這種超過人類能力東西的對(duì)策，并建議，如果不暫停，應(yīng)該由政府強(qiáng)制暫停。

最后，約書亞·本吉奧還認(rèn)為AI開發(fā)者必須要與監(jiān)管者合作，開發(fā)強(qiáng)大的AI管理系統(tǒng)。比如要有專門負(fù)責(zé)AI監(jiān)管的機(jī)構(gòu)，監(jiān)督并跟蹤AI系統(tǒng)的大量計(jì)算；以及對(duì)AI產(chǎn)出的內(nèi)容進(jìn)行水印等標(biāo)記，幫助人類識(shí)別真假；甚至還要為AI的安全研究提供充足的資金，來應(yīng)對(duì)AI可能造成的經(jīng)濟(jì)或政治破壞。

目前，約書亞·本吉奧的公開信已經(jīng)有超過1000多人的公開簽名與支持，其中也不乏一些知名人士，如其他計(jì)算機(jī)領(lǐng)域的專家以及世界數(shù)一數(shù)二的富豪馬斯克，還有蘋果公司的聯(lián)合創(chuàng)始人斯蒂夫·蓋瑞·沃茲尼亞克。

關(guān)鍵詞：