早些時候在今年3月29日，包括圖靈獎得主Yoshua Bengio和特斯拉CEO馬斯克在內(nèi)的多位業(yè)界和學(xué)界人士聯(lián)署公開信，呼吁各大人工智能實驗室至少暫停六個月研發(fā)超過GPT-4的AI系統(tǒng)，以便制定并實施安全協(xié)議。近期，在麻省理工學(xué)院舉辦的一場商業(yè)與人工智能的討論活動上，OpenAI首席執(zhí)行官兼聯(lián)合創(chuàng)始人Sam Altman對此事件以及GPT-4的后續(xù)發(fā)展等問題作出回應(yīng)。

Sam Altman指出，他也認(rèn)為人工智能確實面臨嚴(yán)重的安全挑戰(zhàn)，隨著大型模型如GPT-4的能力不斷提升，相應(yīng)的安全措施也確實需要加強。據(jù)他透露，在GPT-4訓(xùn)練完成后，公司用了六個月時間進(jìn)行大量安全性研究并接受外部審核，之后才正式發(fā)布。他表示：“自從我們發(fā)布GPT-4以來，一切都進(jìn)展順利?！?/p>

事實上，早在今年初，Sam Altman就曾多次表達(dá)對人工智能技術(shù)的擔(dān)憂。他還認(rèn)為，隨著人工智能技術(shù)的不斷發(fā)展，人類可能面臨前所未有的挑戰(zhàn)和風(fēng)險。

然而，Sam Altman也認(rèn)為，馬斯克等人的公開信“缺乏許多技術(shù)細(xì)節(jié)，難以明確需要暫停的研究領(lǐng)域”，而且暫停訓(xùn)練并非解決人工智能安全問題的最佳途徑。

在活動當(dāng)天，OpenAI公司總裁兼聯(lián)合創(chuàng)始人Greg Brockman發(fā)布了一篇長文，強調(diào)公司對大型模型如GPT-4安全問題的關(guān)注。他表示：“我們計劃進(jìn)一步加強我們在安全問題上采取的措施，以更積極的態(tài)度應(yīng)對安全挑戰(zhàn)，甚至比許多用戶所想象的還要積極。”

Sam Altman還澄清了關(guān)于GPT-5的傳言并不屬實：“我們目前并沒有進(jìn)行GPT-5的研發(fā)，短期內(nèi)也不會進(jìn)行?！钡瑫r透露，公司正致力于拓展GPT-4的能力，并表示：“我們正在GPT-4基礎(chǔ)上開展其他工作，這些工作涉及到安全問題，而這些問題在公開信中被完全忽略?！?/p>

此外，Sam Altman提到，目前人工智能相關(guān)監(jiān)管面臨的一個重要挑戰(zhàn)是難以衡量和跟蹤進(jìn)展。具體來說，有編號的版本產(chǎn)品只是為了強調(diào)技術(shù)的明確發(fā)展，但并不能說明具體的技術(shù)進(jìn)步程度，這實際上只是一種“營銷工具”，例如iPhone 35相較于iPhone 34的優(yōu)勢。

Sam Altman還表示，目前大型語言模型如GPT-4的規(guī)模可能正接近極限，而且大型語言模型并不是規(guī)模越大越好，“人們過于關(guān)注參數(shù)數(shù)量，實際上最重要的是提升性能?！?/p>

總之，OpenAI的首席執(zhí)行官Sam Altman明確表示，短期內(nèi)公司沒有計劃研發(fā)GPT-5，而是將繼續(xù)專注于GPT-4的安全性和性能提升。隨著GPT-4在各個領(lǐng)域的應(yīng)用逐步拓展，OpenAI將致力于確保其安全性，以便為用戶帶來更多便利和價值。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com