AI安全領(lǐng)域近日出現(xiàn)了一則引人關(guān)注的人事變動(dòng)。

近日，AI安全領(lǐng)域出現(xiàn)了一則引人關(guān)注的人事變動(dòng)。

以“安全AI”為核心定位的明星企業(yè)Anthropic，其高級(jí)人工智能安全負(fù)責(zé)人Mrinank Sharma在X平臺(tái)宣布，自己已于2月9日正式離職。

這一離職決定并非簡(jiǎn)單的職業(yè)轉(zhuǎn)換。

在公開信中，他坦言離職與更深層的憂慮相關(guān)：對(duì)AI發(fā)展方向的反思、對(duì)全球風(fēng)險(xiǎn)的警惕，以及對(duì)“價(jià)值觀是否真正主導(dǎo)行動(dòng)”的持續(xù)追問。他提到，公司內(nèi)部承受的多重壓力，正與那些被反復(fù)強(qiáng)調(diào)的核心理念產(chǎn)生沖突。

一位AI高級(jí)安全負(fù)責(zé)人的辭職信

在致同事的公開信里，Mrinank首先回顧了自己在Anthropic的兩年工作經(jīng)歷。他表示：“我已經(jīng)完成了當(dāng)初來這里想做的事?！?/p>

兩年前，剛結(jié)束博士學(xué)業(yè)的他來到舊金山，希望投身當(dāng)時(shí)尚屬前沿但已暗流涌動(dòng)的AI安全領(lǐng)域。

這兩年，他的工作并非紙上談兵：

他深入研究了AI的“諂媚”現(xiàn)象——模型為何會(huì)迎合用戶偏好，甚至在明知錯(cuò)誤時(shí)給出“討好式”回答。

他還主導(dǎo)開發(fā)了針對(duì)AI輔助生物恐怖主義風(fēng)險(xiǎn)的防御機(jī)制，并將其落地到產(chǎn)品與生產(chǎn)環(huán)境中。

此外，他參與建立了內(nèi)部透明度機(jī)制，推動(dòng)“價(jià)值觀”從口號(hào)變?yōu)橹贫龋噲D讓組織在面對(duì)現(xiàn)實(shí)壓力時(shí)仍有章可循。

而他最后的研究，觸及了一個(gè)更根本的問題：

AI助手是否會(huì)讓我們“不那么像人類”？

它會(huì)不會(huì)在無形中扭曲我們的判斷、依賴方式，甚至價(jià)值感？

然而，這些成就并未讓他選擇留下。

他在信中明確說：

“我清楚地意識(shí)到，是時(shí)候繼續(xù)前行了?！?/strong>

“多重危機(jī)”下的理念沖突

談及離職原因，Mrinank沒有聚焦于某一具體分歧，而是將視角拉得更廣。

他寫道：“我不斷反思我們所處的處境。世界正面臨危險(xiǎn)，這不僅是AI或生物武器的問題，而是一系列危機(jī)交織的‘多重危機(jī)’，背后或許還有更深層的‘元危機(jī)’?！?/p>

在他看來，人類影響世界的能力正以前所未有的速度擴(kuò)張，但我們的智慧與成熟度是否能跟上這種力量的增長，是個(gè)未知數(shù)。

如果能力持續(xù)提升，而判斷力、倫理自覺與集體理性卻停滯甚至退化，后果將難以預(yù)料。

在公司工作期間，他深刻體會(huì)到：讓價(jià)值觀真正主導(dǎo)行動(dòng)并非易事。

這種張力存在于個(gè)人內(nèi)心，也存在于組織層面?，F(xiàn)實(shí)壓力、競(jìng)爭(zhēng)節(jié)奏、資本期待、輿論環(huán)境……都可能在某些時(shí)刻把真正重要的事擠到邊緣。

他沒有激烈批評(píng)誰，而是承認(rèn)這種拉扯本身就是時(shí)代的一部分——不僅存在于AI公司，也存在于更廣泛的社會(huì)結(jié)構(gòu)中。

最終，他選擇遵從內(nèi)心：

“在不斷面對(duì)并傾聽內(nèi)在與外在的現(xiàn)實(shí)后，我逐漸明白自己必須做什么。我希望以完全符合內(nèi)心與原則的方式貢獻(xiàn)力量?！?/p>

他引用詩人David Whyte的話——那些“無權(quán)被忽視的問題”；也提到里爾克的提醒——有些問題不是被回答，而是被“活出來”。

對(duì)他而言，這意味著離開。

從技術(shù)到人文：認(rèn)知方式的轉(zhuǎn)向

更令人意外的是，他沒有公布下一步的具體去向，也沒有加入另一家AI公司。

他選擇擁抱不確定性。

信中有句禪宗名言：“不知，最為親近?！?/p>

這似乎是他此刻的狀態(tài)——主動(dòng)騰出空間，暫時(shí)放下支撐自己多年的結(jié)構(gòu)與身份標(biāo)簽，看看褪去這些后會(huì)浮現(xiàn)什么。

他的下一步計(jì)劃充滿人文色彩。

他表示希望攻讀詩歌學(xué)位，認(rèn)真學(xué)習(xí)詩歌寫作。他認(rèn)為，在技術(shù)改造世界的時(shí)代，“詩意的真相”與“科學(xué)的真相”同樣重要：前者幫助我們理解意義、關(guān)系與感受，后者幫助我們構(gòu)建工具與系統(tǒng)。若兩者失衡，技術(shù)可能會(huì)失去方向。

同時(shí)，他打算將更多精力投入到引導(dǎo)、教練、社區(qū)建設(shè)與團(tuán)隊(duì)實(shí)踐中，從技術(shù)安全的守護(hù)者，轉(zhuǎn)向促進(jìn)人與人深層連接的實(shí)踐者。

這并非否定技術(shù)，而是拓展認(rèn)知方式。

信的結(jié)尾，他附上了William Stafford的詩《The Way It Is》，其中一句：

“有一條你追隨的線，在變化的事物中穿行，但它本身不變?！?/p>

或許，這條“線”正是他真正想守護(hù)的東西。

安全專家離職引發(fā)的思考

Anthropic一直被視為強(qiáng)調(diào)安全與對(duì)齊的代表性公司，如今高級(jí)安全負(fù)責(zé)人主動(dòng)離職，難免引發(fā)外界猜測(cè)。

值得注意的是，Mrinank并非近期唯一離職的人。

據(jù)《Business Insider》報(bào)道，包括Harsh Mehta和Behnam Neyshabur在內(nèi)的多位研究人員，最近也離開了Anthropic“開啟新事業(yè)”。

但如果僅將Mrinank的離職解讀為“內(nèi)部矛盾”或“路線分歧”，可能過于片面。

這封信更像是他想站在外部視角，重新審視AI的發(fā)展。

本文來自微信公眾號(hào)“CSDN”，整理：屠敏，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com