“我們必須對新興技術的風險保持清醒和警惕，這些風險可能會對我們的民主和價值觀構成威脅。”

美國時間7月21日，美國總統(tǒng)拜登在講話中如此說道。當天，白宮宣布，7家人工智能領域的巨頭經(jīng)過與白宮數(shù)月的磋商后，“自愿”做出一系列承諾，以應對AI帶來的風險。 

這7家公司包括Google、微軟、Meta、OpenAI、亞馬遜、Anthropic和Inflection。

在實質性的法律法規(guī)到來之前，拜登政府希望用“自愿承諾”的方式，實現(xiàn)人工智能技術安全、可靠和透明的發(fā)展目標。白宮官員承認，目前沒有執(zhí)行機制來確保這些公司遵守承諾，但正在制定一項有關的行政命令。

隨著生成式AI的廣泛運用，各類圖文、甚至音視頻的假消息開始泛濫，虛假信息傳播成為了人們對AI的一大擔憂。尤其是在美國2024大選前夕，這一議題受到了更多關注。

7家公司共同宣布，將開發(fā)例如水印系統(tǒng)的技術，以確保用戶能夠分別人工智能生成的內(nèi)容。

此次，7家公司共同或部分做出的其他承諾還包括：

• 投資網(wǎng)絡安全和內(nèi)部威脅防護措施，以保護專有和未發(fā)布的模型權重；
• 促進第三方發(fā)現(xiàn)和報告其人工智能模型中的漏洞；
• 公開報告其人工智能模型的能力、限制以及適當和不適當使用的領域；
• 優(yōu)先研究人工智能模型可能帶來的社會風險，包括避免有害的偏見和歧視以及保護隱私；
• 開發(fā)和部署先進的人工智能模型，以幫助解決社會面臨的最大挑戰(zhàn)。

在今年6月，歐盟專員蒂埃里·布雷頓訪問舊金山期間，就曾與OpenAI CEO奧特曼討論過人工智能生成內(nèi)容水印的問題。奧特曼當時表示，“很樂意盡快展示OpenAI對水印的處理”。

盡管拜登稱這些承諾是“真實而具體的”，但其中的許多項都有些模糊，缺乏具體執(zhí)行的細節(jié)，象征意義超過了實質意義。

例如，7家公司共同承諾，在行業(yè)內(nèi)及與政府、民間社會和學術界分享有關管理人工智能風險的信息。不過，如何確定風險信息的披露范圍、如何進行披露都存在待商討的模糊地帶。

不同AI公司對于信息披露的態(tài)度也截然不同。Meta對于其AI模型的分享顯然更加開放，大部分模型均為開源，公開供所有人使用。然而，OpenAI在發(fā)布GPT-4時則稱，出于對競爭和安全的考慮，拒絕公布模型的訓練數(shù)據(jù)量和模型尺寸。

承諾中還指出，在發(fā)布AI模型之前，會對其進行內(nèi)部和外部的安全測試。然而，這條承諾并沒有明確說明這些模型需要經(jīng)過什么測試，測試應當由什么機構完成，測試的具體標準是怎樣的。

事實上，這些AI公司在發(fā)布模型之前，都宣稱已經(jīng)對其進行了內(nèi)部的安全測試。不過，此次是這些公司首次集體承諾，允許外部專家對其模型進行測試。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com