現(xiàn)在AI沒意識(shí)，不代表以后沒有！

人工智能會(huì)發(fā)展出意識(shí)嗎？

【資料圖】

今年年初ChatGPT的熱潮席卷全球的時(shí)候，這一度還是許多人關(guān)心的問題（另一個(gè)問題則是AI會(huì)不會(huì)讓自己失業(yè)）。不過這種恐懼和危機(jī)感，后來很快就被各種讓人眼花繚亂的大模型產(chǎn)品取代了，絕大多數(shù)人在焦慮未來和關(guān)注眼前之間選擇了后者。

不過59歲的Yoshua Bengio依然在關(guān)注這件事，就在當(dāng)?shù)貢r(shí)間本周二，包括他在內(nèi)的一個(gè)19人團(tuán)隊(duì)剛剛發(fā)布了一篇長(zhǎng)達(dá)88頁(yè)的重磅論文，來論證現(xiàn)在的AI有無可能擁有意識(shí)。

Bengio曾在2018年因深度學(xué)習(xí)的相關(guān)研究獲得圖靈獎(jiǎng)，被認(rèn)為是人工智能領(lǐng)域先驅(qū)式的人物；論文的其余作者也都是來自人工智能、神經(jīng)科學(xué)和哲學(xué)領(lǐng)域的教授和專家。

先看結(jié)論：這篇論文認(rèn)為，目前并不存在擁有意識(shí)的AI，但是以現(xiàn)有的技術(shù)條件，創(chuàng)造出有意識(shí)的AI基本不成問題。

光是一句話就足夠讓人汗毛樹立。這就好像，昨天我們還在說能在虛擬小鎮(zhèn)里相安無事像人一樣過生活的AI智能體，明天這群AI智能體就開始想著小鎮(zhèn)外面有什么、真正的人類世界是什么樣之類的事了……

是福還是禍，我們不如先來看看這篇論文的研究方法。

首先必須指出的是，關(guān)于什么是“意識(shí)”，雖然每個(gè)人都能大概講出一些自己的理解，但在學(xué)界，意識(shí)的概念長(zhǎng)達(dá)幾個(gè)世紀(jì)以來都存在不同的定義。哲學(xué)家、神學(xué)家、語言學(xué)家和科學(xué)家對(duì)這個(gè)概念進(jìn)行了數(shù)千年的分析、界定、詮釋和辯論，但意識(shí)的本質(zhì)仍然統(tǒng)一的認(rèn)可、留有爭(zhēng)議。

人工智能領(lǐng)域?qū)τ谌斯ひ庾R(shí)的理解也經(jīng)歷了漫長(zhǎng)的演進(jìn)。

20世紀(jì)以來，以艾倫·圖靈為代表的行為主義者曾貢獻(xiàn)了這一領(lǐng)域最具影響力的對(duì)意識(shí)的定義，也就是著名的“圖靈測(cè)試”——如果一個(gè)測(cè)試者對(duì)無法確認(rèn)身份的兩個(gè)對(duì)象（一人、一機(jī)器）提出相同的一系列問題，得到的答案讓他無法區(qū)分究竟誰是機(jī)器，誰是人，那么則認(rèn)定機(jī)器通過圖靈測(cè)試，擁有意識(shí)。

行為主義的特點(diǎn)是，將意識(shí)解釋為一系列能被外部觀察到的行為，以行為來定義意識(shí)。但這種方法也被詬病忽略了心理現(xiàn)象，無法解釋智力。

功能主義后來取代行為主義，成為新的定義人工意識(shí)的主導(dǎo)思想理論。和行為主義相比，功能主義更關(guān)注大腦做了什么以及大腦功能在哪里起作用——如果有任何東西可以模仿特定的心理狀態(tài)與計(jì)算過程的因果作用，意識(shí)就是可以實(shí)現(xiàn)的。

功能主義也對(duì)事物如何工作、到底是由怎樣的材質(zhì)組成等等外化體現(xiàn)不感興趣，就好比將任何能報(bào)時(shí)的東西都?xì)w為時(shí)鐘一樣，而時(shí)鐘是什么 制成的并不重要，只要它能報(bào)時(shí)就行了。

盡管功能主義也被認(rèn)為存在無法體現(xiàn)事物的思考性等問題，但它依然是現(xiàn)在人工智能領(lǐng)域較為主流的衡量AI是否存在意識(shí)的依據(jù)。

后來美國(guó)哲學(xué)家、計(jì)算機(jī)科學(xué)家Hilary Putnam又將功能主義與計(jì)算概念結(jié)合，提出了計(jì)算功能主義。簡(jiǎn)而言之，計(jì)算功能主義認(rèn)為，精神世界是基于一個(gè)使用諸如信息、計(jì)算（思考）、記憶（存儲(chǔ)）和反饋等概念的物理系統(tǒng)（即計(jì)算機(jī)）。

而Bengio等人此次發(fā)布的論文，對(duì)AI有無意識(shí)基礎(chǔ)的判斷依據(jù)正是計(jì)算功能主義。

基礎(chǔ)原則確定之后，接下來就進(jìn)入到了更細(xì)致的“打分”環(huán)節(jié)。因?yàn)榇饲?，學(xué)界對(duì)意識(shí)的研究已經(jīng)有了一些公認(rèn)的結(jié)果，比如科學(xué)家和哲學(xué)家對(duì)意識(shí)必要條件的主張等等，論文作者在研究中做的事情就是，從過往對(duì)意識(shí)研究的成果中選取一部分科學(xué)理論，作為判斷AI是否具有意識(shí)的更具體的評(píng)估依據(jù)和指標(biāo)。

論文主要介紹了其中用到的循環(huán)加工理論（Recurrent Processing Theory，RPT），全局工作空間理論（Global Workspace Theory，GWT）和計(jì)算高階理論（Computational Higher-Order Theories，HOT）三種科學(xué)理論。

以循環(huán)加工理論（RPT）為例，研究者將這一理論具體拆分成了RPT-1和RPT-2兩個(gè)指標(biāo)：RPT-1指“使用算法循環(huán)的輸入模塊”，RPT-2指“生成有組織、整合的感知表示的輸入模塊”。

在衡量一個(gè)AI有無意識(shí)時(shí)，要做的就是將其性能和這些指標(biāo)進(jìn)行對(duì)照。

以下是論文中詳細(xì)列出的其他科學(xué)理論指標(biāo)：

當(dāng)然這一步并不是真的去給一個(gè)AI打分，而是要看這個(gè)AI能夠同時(shí)滿足以上多少指標(biāo)。研究者同時(shí)也指出，判斷AI有無意識(shí)并沒有絕對(duì)的答案：

為了方便起見，我們通常把意識(shí)寫得好像是一個(gè)要么全有要么全無的問題。然而，我們對(duì)這種情況的可能性持開放態(tài)度：一個(gè)AI系統(tǒng)可能是部分有意識(shí)的，或者既不是完全有意識(shí)的，也不是完全無意識(shí)的。有許多屬性具有“模糊”的邊界，就像一件襯衫可能是介于黃色和綠色之間的一種顏色，這樣就沒有關(guān)于它是否是黃色的事實(shí)。

此外，論文中也提到此次研究使用了偏理論的研究方法。這其實(shí)也和計(jì)算功能主義的原則相對(duì)應(yīng)，偏理論指的是去評(píng)估AI是否滿足科學(xué)理論指標(biāo)中的功能或架構(gòu)條件，而不是去尋找他們某些具體的行為特征，“對(duì)于AI意識(shí)研究來說，一種重理論的方法是必要的，重理論的方法是專注于系統(tǒng)如何工作，而不是它們是否顯示出可能被視為有意識(shí)存在特征的外在行為形式”。

以上便是這篇論文用到的研究方法。

論文的下半部分也提到了一些具體的研究案例，來體現(xiàn)判斷特定的AI系統(tǒng)是否具有意識(shí)的研究過程，其中就包括了基于Transformer的大語言模型和Perceiver架構(gòu)，還分析了DeepMind的Adaptive Agent（一個(gè)在3D虛擬環(huán)境中運(yùn)行的強(qiáng)化學(xué)習(xí)智能體）和谷歌的PaLM-E（一個(gè)經(jīng)過訓(xùn)練可以操縱機(jī)器人的多模態(tài)視覺語言模型）。

不過最終結(jié)果顯示，這些AI系統(tǒng)并沒有體現(xiàn)出非常明顯的有意識(shí)的傾向。

研究者同時(shí)寫道，“我們研究的證據(jù)表明，如果計(jì)算功能主義是正確的，有意識(shí)的AI系統(tǒng)實(shí)際上可以在近期內(nèi)建立起來?！?/p>

論文發(fā)表后，英偉達(dá)首席AI科學(xué)家Jim Fan第一時(shí)間便轉(zhuǎn)發(fā)了這一消息，并表示了他對(duì)研究團(tuán)隊(duì)的敬佩，

“ ‘意識(shí)’一直都是AI領(lǐng)域大家諱莫如深的話題。這篇由圖靈獎(jiǎng)得主Yoshua Bengio參與撰寫的88頁(yè)論文，是對(duì)意識(shí)科學(xué)理論以及當(dāng)今人工智能堆棧中可能實(shí)現(xiàn)的系統(tǒng)調(diào)查，我贊揚(yáng)他們有勇氣去解決這個(gè)大多數(shù)研究人員都會(huì)回避的爭(zhēng)議性話題?！?/blockquote>

事實(shí)上，作為世界級(jí)的人工智能專家和深度學(xué)習(xí)先驅(qū)，Bengio近年來的研究課題許多都和人工智能的意識(shí)問題相關(guān)——

2017年，他曾在arXiv上發(fā)布過一篇題為《意識(shí)先驗(yàn)》（The Consciousness Prior）的文章；2019年的NeurIPS大會(huì)上，他又發(fā)表了《從System 1深度學(xué)習(xí)到System 2深度學(xué)習(xí)》的主題演講，提出了一個(gè)在當(dāng)時(shí)讓人印象深刻的觀點(diǎn)：深度學(xué)習(xí)正在從直觀的、無意識(shí)的靜態(tài)數(shù)據(jù)集學(xué)習(xí)，向具有意識(shí)、推理和邏輯的新型架構(gòu)研究轉(zhuǎn)變。

而在今年3月，Bengio也參與了那場(chǎng)轟轟烈烈的反對(duì)各家人工智能實(shí)驗(yàn)室搞AI“軍備競(jìng)賽”、要求其暫停至少6個(gè)月比GPT-4更強(qiáng)大模型研發(fā)的運(yùn)動(dòng)，和其他超過千名的產(chǎn)業(yè)和學(xué)術(shù)大佬一起在公開信上簽了名；兩個(gè)月后，他又發(fā)表了一篇系統(tǒng)分析“危害人類的AI是如何出現(xiàn)的”的文章。

直到這次聯(lián)合發(fā)表這篇長(zhǎng)達(dá)88頁(yè)的論文，Bengio一直都在不遺余力地做那個(gè)想要警醒大家AI的未來該向何處去的人。

就像這篇論文里寫到的那句話，“這篇報(bào)告還遠(yuǎn)未對(duì)這些（AI有無意識(shí)的）話題做出最終定論。我們強(qiáng)烈建議支持對(duì)意識(shí)科學(xué)及其在AI中應(yīng)用的進(jìn)一步研究。我們也呼吁，社區(qū)應(yīng)盡快將建立有意識(shí)的AI系統(tǒng)的道德和社會(huì)風(fēng)險(xiǎn)納入考量（盡管這并不是這篇報(bào)告所強(qiáng)調(diào)的主題）?！?/p>

關(guān)鍵詞：