【導讀】在將AGI作為最終目標之前，我們應該首先就AGI的概念定義達成共識。歷史上對通用AI發(fā)展的預測過于樂觀！

近年來，AI技術的發(fā)展遠遠超出了普通大眾和研究者的預期，「通用人工智能（AGI）」這一概念也從科幻小說走向了日常生活的討論，成為許多科技公司和研究機構追求的最終目標。

OpenAI是AI行業(yè)的領頭羊，它的使命是「確保通用人工智能惠及人類」；

在公司愿景聲明中，DeepMind還指出，「人工智能可能會推動歷史上最大的變革之一。」；

英國政府的人工智能戰(zhàn)略和美國政府的人工智能文件中也強調了AGI概念；

在各種語言模型GPT-4中，微軟的研究人員聲稱發(fā)現(xiàn)了「AGI火花」（sparks of AGI）存在的證據(jù)；

論文鏈接：https://arxiv.org/pdf/2303.12712.pdf

谷歌現(xiàn)任和前任高管聲稱「已經(jīng)到了AGI」（AGI is already here）；

「GPT-4是否可以算作AGI算法？」Elon也是一個問題 對于OpenAI，Musk提起訴訟的核心... ...

雖然AGI術語已廣泛應用于商業(yè)、政府和媒體，但不同群體的用戶并未就AGI概念的含義達成共識。

「到底AGI的含義是什么？」AI社區(qū)引起了激烈的爭論，這不僅僅是一個關于問題的問題?！感g語」對AGI作出的重要決策，如科技公司、政府機構等，也將受到定義的學術爭論的影響。

最近，圣菲研究所教授Melanie 在Science上，Mitchell發(fā)表了一篇關于通用人工智能概念的文章，討論了大眾的爭論。

經(jīng)過對AGI的深入研究，人工智能從業(yè)人員可以發(fā)現(xiàn)智能實質。（the nature of intelligence）研究人類和動物理解的觀點與人類有很大不同，這種差異對人類有很大的不同?！噶私猱斍?，預測機器智能的未來前景」等待尤為重要。

人工智能概念

在人工智能領域，最初的目標是創(chuàng)造一種與人類相同、具有通用智能的機器。

早期的人工智能先驅們對此持樂觀態(tài)度：1965年，赫伯特·西蒙（Herbert Simon）預測著作《人與管理的自動化形式》「20年后，機器可以承擔人類所能做的一切。」；

馬文·明斯基于1970年出版的《生活》雜志。（Marvin Minsky）聲稱:三到八年后，我們可以擁有一臺具有普通人智商水平的設備，一臺可以閱讀莎士比亞、潤化汽車、玩辦公政治、講笑話、打架的機器。

不幸的是，這些樂觀的預測并沒有實現(xiàn)。

在接下來的幾十年里，唯一成功的人工智能系統(tǒng)只能被視為特殊的，而不是通用的:只能執(zhí)行單一任務或有限的任務。例如，手機上的語音識別軟件可以轉錄口述內容，但不能理解具體內容并生成回復。

通用人工智能（AGI）這個詞是在21世紀初創(chuàng)造的，以再一次追尋人工智能先驅最初的高尚愿望，尋找再一次關注?！冈噲D以不同的方式研究和復制智能。」。

然而，直到最近，這種高尚的向往在人工智能領域仍然相當模糊。領先的人工智能公司將實現(xiàn)AGI作為其主要目標，但AGI的存在。（existential threat from AGI）仍然是他們最害怕的事情。

許多人工智能從業(yè)者都在預測AGI的實現(xiàn)時間線，例如，有人預測，「到2028年，AGI將有50%的機會?！梗坏灿腥速|疑AGI的前提，稱其定義模糊不清，甚至有研究人員在推特上表示:AGI的概念不科學，人們應該對使用這個詞感到尷尬。

雖然早期的AGI支持者認為機器很快就承擔了所有的人類活動，但是研究人員已經(jīng)意識到，創(chuàng)造一個「國際象棋機器人」或是「回答AI系統(tǒng)搜索查詢的問題?！归_發(fā)機器人將比開發(fā)機器人更好「疊衣服」或「修水管」容易得多。

同時，AGI的概念也進行了相應的調整，包括所謂的「認知任務」（cognitive tasks）。

DemisDeepMind創(chuàng)始人 Hassabis將AGI定義為「它應能完成幾乎任何人類都能完成的認知任務。」OpenAI將其描述為系統(tǒng)?！冈谟薪?jīng)濟效益的工作中，高度獨立的系統(tǒng)優(yōu)于人類。」（most economically valuable work)，它的定義大多忽略了物理智能的需求（physical intelligence）的任務。

在人工智能中「智能」概念，即認知或其它方面，通常是通過個人智能體作為獎勵或優(yōu)化目標來構建的。

一篇有影響力的論文將通用智能定義為「在各種環(huán)境中實現(xiàn)智能體目標的能力」。

論文鏈接：https://link.springer.com/article/10.1007/s11023-007-9079-x

還有論文指出，「智商及其相關能力可以理解為促進獎勵最大化」。

論文鏈接：

https://www.sciencedirect.com/science/article/pii/S0004370221000862

事實上，這也是目前人工智能系統(tǒng)的運行方式，例如，計算機程序AlphaGo被訓練進行優(yōu)化「贏得比賽」GPT-4的獎勵函數(shù)是通過訓練來優(yōu)化的。「預測句子中的下一個單詞?！躬剟詈瘮?shù)。

一些人工智能研究人員猜測，人工智能系統(tǒng)一旦完成AGI，就會將其優(yōu)化能力應用到自己的軟件中，快速達到超越人類的智能水平，迭代推廣自己的智能；AGI系統(tǒng)將在極端預測下「比我們聰明幾千倍或者幾百萬倍?！?。

這一對人工智能社區(qū)優(yōu)化的關注引起了一些人的擔憂?！覆环先祟悩藴省梗╱naligned）AGI可能會給人類帶來生存的危險，并偏離其創(chuàng)造者的目標。

哲學家尼克·博斯特羅姆在2014年出版的《超級智能》一書中（Nick Bostrom）假設人類為超級智能人工智能系統(tǒng)提出了一個著名的思想實驗：「升級回形針生產(chǎn)」人工智能系統(tǒng)將利用其智能來調節(jié)地球上的所有資源，并將地球上的一切都轉化為回形針。

當然，人類并非為了制造更多的回形針而摧毀地球和人類，而是在說明書中沒有提到這一點。

Yoshua人工智能研究員 Bengio還提供了一個思想實驗:人工智能可能需要處理氣候變化，但是AGI可能會設計一種病毒來摧毀人類，因為我們給出的指令是對的?！競Φ暮x」解釋得不夠清楚，人類實際上是處理氣候危機的主要障礙。

這一對AGI(或超級智能)的推測觀點不同于研究生物智能，尤其是人類所理解的觀點。

雖然認知科學沒有嚴格的定義「通用智能」，然而，大多數(shù)認知科學家認為，智商水平不是一個可以量化的指標，而是一種復雜的綜合通用性和特殊能力，可以簡單地向上或向下調整。在許多情況下，它可以適應特定的進化生態(tài)位置。（specific evolutionary niche）。

許多研究生物智能的人也懷疑所謂的智能?！刚J知」一方面可以從其他方面分離出來，并在一臺沒有實體的機器中捕捉到:心理學家表示，人類智商的重要方面是建立在一個人的身體和情感體驗的基礎上。

證據(jù)還表明，個人的智力深深依賴于一個人參與社會和文化環(huán)境、理解、協(xié)調和向他人學習的能力，這可能比個人更好?！竷?yōu)化能力」更重要。

另外，前面提到的回形針人工智能（paper clip–maximizing AI）不同的是，人類智能并不是以優(yōu)化固定目標為核心，一個人的目標是通過復雜整合先天需求和支持其智能社會和文化環(huán)境而形成的。

與超級智能體不同，智商的提高恰恰使人類能夠更好地理解他人的意圖和自己行為的可能性，并相應地調整自己的行為。

就像思想家卡佳·格雷斯一樣。（Katja Grace）所說，把「接管宇宙」對任何人來說，目標都是荒謬的，那么為什么我們認為實現(xiàn)人工智能的目的是不同的呢？

為了提高自己的智能水平，一臺機器改進了自己的軟件，也偏離了生物學的觀點，即智能是一個高度復雜的系統(tǒng)，不僅需要大腦參與。

假如人類的智力水平需要不同思維能力的復雜整合和社會和文化的支持，那么系統(tǒng)的「智能」水平很可能不能提高自己。「軟件」能力，就像人類不能設計大腦(或基因)來使自己變得更聰明一樣。

然而，人類可以通過外部技術工具(如計算機)和建立文化機構(如學校、圖書館和互聯(lián)網(wǎng))作為集體來提高有效的智商水平。

關于AGI的含義和AGI是否是一個連貫的概念仍在爭論中。關于AGI機器能做什么的猜測主要是基于直覺，而不是科學證據(jù)。

但是這種直覺可以有多大的可信度呢？人工智能的歷史反復證實了我們對智能的直覺是錯誤的。

許多早期的人工智能先驅認為，邏輯編程設備將捕獲所有人類智能；其他學者預測，機器需要具有普通人類水平的智能，才能在國際象棋中戰(zhàn)勝人類，或者在語言之間翻譯或對話，但最終被證明是錯誤的。

人工智能進化的每一步，人類智能水平都比研究人員所期望的要復雜。

現(xiàn)在關于機器智能的猜測也會被證明是錯誤的嗎？為了回答這些問題，我們能否開發(fā)出更加嚴謹和通用的智能科學？

現(xiàn)在人工智能科學是否更像人類智能科學，或者更像天體生物學(預測其它星球上的生命可能是什么樣子)。

無論是外星生命還是超級智能機器，都需要基于一般原理的理論來預測從未見過甚至可能不存在的東西。

最后，通過對這些原理的長期科學研究，所謂AGI的含義和后果不會通過媒體的辯論、訴訟或直覺和猜測達成共識。

參考資料：

https://www.science.org/doi/10.1126/science.ado7069

本文來自微信微信官方賬號“新智元”（ID:AI_era），編輯：LRS，36氪經(jīng)授權發(fā)布。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com