“人工智能（AI）的風險是真實存在的，但是可控的?！?月11日，美國微軟公司聯(lián)合創(chuàng)始人比爾·蓋茨在網(wǎng)上發(fā)文，對發(fā)展AI表現(xiàn)出樂觀態(tài)度。不過，包括已故的英國著名物理學家霍金等在內的不少科學家認為，AI的發(fā)展可能會以不同形式導致人類的滅絕。重大科學技術通常都是雙刃劍，在帶來紅利的同時也隱藏著風險，此前科技革命帶來的很多擔憂隨著時間一一被化解，那么，AI的發(fā)展是否也會遵循這般路徑？面對誘人的利益和潛在的威脅，我們應該繼續(xù)前行還是為AI發(fā)展按下“暫停鍵”？如果選擇前者，我們又該如何規(guī)避風險？

取代人類成為地球上的主要生命形式？

1983年9月26日凌晨，在莫斯科郊外一座核導彈預警中心里，蘇聯(lián)中校彼得羅夫剛剛坐下，警報聲突然大作，雷達系統(tǒng)顯示多枚核導彈正同時從美國向蘇聯(lián)襲來。1983年正是冷戰(zhàn)最緊張的時期，當時蘇聯(lián)堅定地認為美國準備對其進行核攻擊。作為應對，莫斯科匆忙投入使用了一套導彈預警系統(tǒng)，該系統(tǒng)可以篩選衛(wèi)星數(shù)據(jù)，以此判斷美國是否有發(fā)射導彈的跡象或者已經發(fā)射導彈，而彼得羅夫的工作就是守著裝有這套系統(tǒng)的電腦，以及時發(fā)現(xiàn)異常情況。

彼得羅夫后來回憶說，當時感覺身下的椅子就像熱鍋。他必須快速作出決定——在美國發(fā)射導彈后，蘇聯(lián)只有非常短的時間決定是否反擊。在高壓之下，彼得羅夫發(fā)現(xiàn)預警系統(tǒng)顯示所有導彈都來自一個美軍基地，這不符合打擊常理，如果美國真要對蘇聯(lián)進行核打擊，應該會從不同基地發(fā)射導彈，以擴大打擊面。他據(jù)此判斷是系統(tǒng)故障，并通知上級這是“虛驚一場”，而事后的調查顯示，蘇聯(lián)衛(wèi)星誤把云層反射的陽光當作洲際彈道導彈發(fā)動機噴射的痕跡。

因為彼得羅夫的沉著冷靜，蘇美核戰(zhàn)甚至是第三次世界大戰(zhàn)得以避免，而現(xiàn)在很多人認為AI可能引發(fā)核戰(zhàn)并導致人類滅亡的一大原因，就是AI系統(tǒng)會和上述蘇聯(lián)預警系統(tǒng)一樣犯錯。隨著AI的發(fā)展，它將被廣泛應用于軍事決策系統(tǒng)，而AI系統(tǒng)的錯誤可能導致決策失誤，從而給人類帶來滅頂之災。

核戰(zhàn)爭不是AI可能給人類帶來深重災難或者導致人類滅絕的唯一方式。美國加州大學伯克利分校計算機科學教授羅素在他所著的《人類相容：AI與控制問題》一書中表示，AI給人類帶來的滅絕風險來自于AI不斷變強的能力以及人類的疏忽。如果人類給機器人設置了錯誤的目標，它們可能在無意中把人類消滅。羅素舉例稱，如果人類要求AI系統(tǒng)尋找解決氣候變暖的方法，而該系統(tǒng)如果認為消滅人類是最好的辦法并將此付諸實踐，那人類可能因此遭遇劫難。

很多人認為，隨著AI的發(fā)展，機器人在擁有自我意識后會起來反抗人類，從而與人類爆發(fā)戰(zhàn)爭，導致人類滅亡。在剛剛舉行的“人工智能造福人類全球峰會”期間，召開了首場有機器人與人類共同參與的新聞發(fā)布會。會上，名為“索菲亞”的機器人直言，它相信機器人可以成為比人類更好的領導者。值得注意的是，現(xiàn)場許多機器人最近配備了最新版本的生成式人工智能系統(tǒng)，它們對記者提問的回答讓其制造者都感到震驚。

加州大學宇宙學家阿吉雷表示，隨著技術的發(fā)展，AI可能奪取人類的決策權，“到了某個時候，人們會發(fā)現(xiàn)運行社會和經濟的大型機器其實并不在人類的控制之下，也無法將它們關掉”。瑞典哲學家博斯特羅姆著有《超級智能》一書。他認為，當機器知道如何制造其他機器時，就會出現(xiàn)“智能大爆炸”。如果機器大腦在一般智能方面超越人類大腦，這種新的超級智能可能會取代人類成為地球上的主要生命形式。

到2030年，7億人可能因機器人失業(yè)

美國政治風險咨詢公司歐亞集團總裁布雷默表示，AI帶來的負面影響包括制造虛假信息、大量失業(yè)、人與人之間的關系將被人與AI之間的關系取代等。

布雷默的部分結論已經得到印證。今年3月，一張由AI合成的“特朗普被捕”照片在網(wǎng)絡上瘋傳。同樣在3月，一段“烏克蘭總統(tǒng)澤連斯基呼吁烏克蘭士兵放下武器”的合成視頻在網(wǎng)上瘋傳。4月，在美國總統(tǒng)拜登宣布將競選連任后，一段批評他的視頻虛構了他連任后華爾街陷入恐慌、移民涌過邊界等“黑暗場景”。很多看了該視頻的人表示，不能辨別其真?zhèn)巍?/p>

替代風險是很多專家對AI的擔憂之一。隨著AI的發(fā)展，大量人群可能失業(yè)。國際咨詢公司麥肯錫的研究顯示，到2030年，機器人可能在工作中會取代7億人。彭博社稱，經合組織（OECD）日前在7個成員國的5000多名員工和雇主中展開的調查顯示，3/5的勞動者擔心AI的高速發(fā)展會使自己在未來10年徹底失業(yè)，3/4則表示AI提高了工作強度。OECD認為，世界經濟當前對AI的使用仍處于“非常早期的階段”，但AI“破壞”各行各業(yè)就業(yè)的可能性依然很高。

帶來威脅，但也能在多領域造福人類

除了上述風險之外，國際非營利組織“人工智能安全中心”認為，AI被用來制造生化武器、先進技術越來越集中在少數(shù)人手中、人類過度依賴AI以至于失去獨立生存能力等，都是這項新技術可能帶來的災難性后果。不過，AI作為最新科技革命的代表性技術，也將在多個領域取得突破，從而造福人類。

曾擔任美國智庫布魯金斯學會主席的約翰·艾倫等研究人員表示，AI為經濟發(fā)展帶來巨大機會。他們發(fā)文稱，據(jù)普華永道估計，到2030年，AI技術將使全球國內生產總值（GDP）增加15.7萬億美元。其中，AI將使中國的GDP增加7萬億美元、北美增加3.7萬億美元、北歐增加1.8萬億美元。

AI也將極大提高一國的國防能力。與AI相關的大數(shù)據(jù)分析將深刻影響情報分析，因為大量數(shù)據(jù)被近乎實時地篩選，從而為指揮官提供前所未有的情報分析水平。此外，AI還能預測犯罪，改善社會治安。美國芝加哥市利用AI技術，根據(jù)年齡、犯罪活動、受害情況、幫派關系等項目，給40萬人打分，并據(jù)此制定了一份“戰(zhàn)略對象名單”，以評估被逮捕的人是否有成為犯罪分子的風險。有研究發(fā)現(xiàn)，相關AI技術有助于預防和減少犯罪。

AI正在幫助病人獲得更好的醫(yī)療服務。一個典型例子就是德國的Merantix公司。該公司將機器深度學習應用于醫(yī)療領域，開發(fā)了一個軟件，通過研究計算機斷層掃描（CT）圖像來檢測人體淋巴結。該軟件能夠區(qū)分正常淋巴結和病變淋巴結，從而判斷病人患淋巴癌的風險。該軟件的開發(fā)人員稱，關鍵在于識別可能有問題的淋巴結并進行標記。醫(yī)生也可以做到這一點，但放射科醫(yī)生每小時收費100美元，且每小時只能仔細查看4張圖像。如果有1萬張圖像，看完這些圖像的成本將是25萬美元。如果由人類完成這項工作，成本會很高。另據(jù)BBC報道，谷歌AI研究員、硅谷奇點大學聯(lián)合創(chuàng)始人庫茲韋爾預測，到2030年，納米機器人（非常小的機器人）將能在人體內工作，修復所有人體損傷并治愈一切疾病，幫助人類實現(xiàn)永生。

AI還能被用來改善城市服務。美國俄亥俄州辛辛那提市消防部門正在使用AI數(shù)據(jù)分析來優(yōu)化應急響應, 通過考慮呼叫類型、位置、天氣等因素，向調度員推薦對醫(yī)療緊急呼叫的適當響應。

“人類社會從來沒有阻止過科技進步”

AI發(fā)展帶來的正面以及負面影響都非常廣泛，那么它到底是利大于弊，還是弊大于利呢？伏羲智庫創(chuàng)始人、清華大學互聯(lián)網(wǎng)治理研究中心主任李曉東認為，AI發(fā)展整體利大于弊，雖然存在AI終結人類的可能性，但這就像核問題一樣，取決于其發(fā)展走向和人類的選擇。李曉東認為，現(xiàn)階段不必夸大AI的風險，社會在使用AI技術的過程中會通過協(xié)作和理性規(guī)避來化解這些風險，科幻大片中原子彈毀滅地球的場景也并未真正出現(xiàn)過。

中國現(xiàn)代國際關系研究院美國研究所所長助理李崢則認為，目前AI技術發(fā)展已經往前進了一步，但整個社會對其利弊的認知及監(jiān)管卻沒有跟上。AI是不可阻擋的、革命性的技術，鼓勵并不能加速其發(fā)展，限制也無法阻擋其發(fā)展。在此過程中，社會應該扮演的角色是為適應AI沖擊做好準備并且進行監(jiān)督，而不是鼓勵無序的技術研發(fā)。整個社會應當對AI的未來發(fā)展有正確預期和理解，保證其與社會發(fā)展相適應，避免技術因過度使用而“轉利為弊”。

浙江大學國際聯(lián)合商學院數(shù)字經濟與金融創(chuàng)新研究中心聯(lián)席主任盤和林說，人類社會從來沒有阻止過科技進步，所以應對潛在風險的方法不是阻止科技進步，而是以技術來對抗技術風險。AI的發(fā)展是必然趨勢，總體上AI對于人類社會利大于弊，部分風險也有應對方法，比如AI生成虛假信息問題，只要進行AI生成信息標注，并通過AI對AI生成但未標注信息進行識別和處罰，就能解決這個問題；對于AI替代人工的問題，AI其實降低了很多職業(yè)的就職門檻，未來人類將減少套路性的內容創(chuàng)作，更多聚焦于創(chuàng)造性內容創(chuàng)作，需要改變的不是AI，而是我們的教育。至于AI終結人類則是太過遙遠的事情，是對AI功能和作用的夸大。

必須盡快就監(jiān)管達成共識

現(xiàn)在各國對AI的討論除了其利弊之外，還集中在AI的倫理和監(jiān)管問題上。什么是AI倫理？據(jù)美國《福布斯》雜志報道，通常來講，它是指如何讓AI更負責任，其范疇包括避免AI偏見、隱私問題、避免AI犯錯等。

AI倫理為何重要？使用AI技術的經驗表明，讓AI技術符合倫理不僅是負責任的行為，也是獲得良好商業(yè)價值的必要條件。李崢認為，合乎倫理的AI至少要兼顧三個方面：一是做到人類可控，不能放任其自我演化；二是AI的應用和賦能方向應該“向善”；三是AI要與人類社會相適應，不能超脫人類社會發(fā)展而走得太快。李曉東表示，關于人類的倫理問題，不同國家和民族都仍然存在分歧，因此合乎倫理的AI首先要尊重世界的多樣性，包容不同的政治體制、文化習慣和經濟狀況。

7月6日，在“人工智能造福人類全球峰會”上，聯(lián)合國秘書長古特雷斯強調，現(xiàn)在必須盡快就如何監(jiān)管AI的開發(fā)與部署達成共識。李崢表示，建立全球共同的監(jiān)管和發(fā)展機制是有必要的，尤其是那些具有危險傾向的研發(fā)和應用方向必須由全世界統(tǒng)一監(jiān)管，否則就會出現(xiàn)部分國家擅自研發(fā)危險技術，對別國構成威脅的情況，造成人工智能的“軍備競賽”。從現(xiàn)實來看，AI監(jiān)管不可能拓展至所有領域，全球聯(lián)合監(jiān)管主要是針對那些特定技術和應用。不過，李崢指出，建立全球監(jiān)管機制面臨諸多挑戰(zhàn)，包括中美歐對關鍵問題的認識存在政治性差異。李曉東認為，目前全球已經建立了很多共同治理的機制和平臺，所以要利用好現(xiàn)有機制來應對AI發(fā)展，不到萬不得已沒必要重新打破規(guī)則，例如涉及AI在軍事領域的應用，就應放到聯(lián)合國的軍控體系內去探討。

結語：讀者朋友，截至今天，我們用3期“深度認知”版為您講述了人工智能（AI）的起源和現(xiàn)狀、AI對地緣政治的影響，以及其發(fā)展將給人類社會帶來的紅利和威脅。技術創(chuàng)新是人類文明進步的動力，而每一次科技革命的進行都伴隨著興奮與懷疑。通過了解AI發(fā)展的“前世今生”，我們知其“然”，也知其“所以然”，并能預測這一技術未來的發(fā)展趨勢。只有深度認知，在面對不斷變幻的“AI風云”時，我們才能心中有數(shù)，笑看風云。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com