AI正變得越來越不敢展現(xiàn)「人性」。

近期，OpenAI宣布無限期擱置ChatGPT的「成人模式」，將重心轉(zhuǎn)回核心業(yè)務(wù)。該功能原計劃向通過年齡驗證的用戶開放更自由的內(nèi)容，但因內(nèi)部反對、投資人壓力及未成年人風險爭議，最終被暫停。

2025年，OpenAI曾公開內(nèi)部名為「Citron（檸檬）」的模式，外界稱其為「成人模式」，實則是追求真實感的AI模式——無安全詞、無敏感限制，允許用戶讓AI扮演任意關(guān)系角色，減少對話打斷，不拒絕用戶問題。

這種過度「擬人化」的設(shè)計讓OpenAI陷入輿論漩渦。內(nèi)部評估時，員工指出該模式自由度極高，色情、暴力等內(nèi)容無上限開放，一旦上線將引發(fā)嚴重問題。

不過，也有聲音認為，「Citron（檸檬）」模式本可推動「陪伴型AI」發(fā)展，卻被OpenAI扼殺在搖籃中。一邊是追求更開放、擬人的AI，一邊是嚴守道德邊界，這似乎成了無解的困局。

用戶期待更「開放」的AI

近兩年，AI用途從聊天問答、生圖視頻拓展到工具化應(yīng)用，用戶期待也隨之提升——希望AI不僅功能強大，更能像家人、朋友甚至戀人般陪伴。

問題在于，若AI向陪伴方向發(fā)展，親密關(guān)系、性、曖昧等內(nèi)容難以完全規(guī)避。對用戶而言，「像人」不僅是語言流暢、回答聰明，更是能進入真人專屬的私密場景。OpenAI最初也計劃向成年用戶開放這類內(nèi)容。

但面對爭議，OpenAI最終選擇暫停。

市場數(shù)據(jù)顯示，「陪伴型AI」受眾不小。TechCrunch報告稱，2025年全球活躍且有收入的AI陪伴應(yīng)用達337款，當年新上線128款，全年收入預(yù)計1.2億美元。可見，愿意為AI親密關(guān)系付費的用戶不在少數(shù)。

主流大廠更看重的是用戶活躍度和留存率。例如Character.AI，2026年2月訪問量達1.745億次，平均單次訪問17分17秒，瀏覽9.2頁，遠超多數(shù)AI產(chǎn)品。

Character.AI本身是爭議性角色扮演平臺，用戶追求擬人化陪伴感，曖昧互動是吸引停留的關(guān)鍵。

與OpenAI相反，Grok因內(nèi)容「開放」引發(fā)爭議。對厭煩主流模型拒答和安全提示的用戶來說，Grok的低安全敏感度、能回答「擦邊內(nèi)容」成了吸引力，月訪問量曾達3億次，平均時長12分57秒，成績亮眼。

OpenAI擱置成人模式，不僅是敏感內(nèi)容爭議，更將AI發(fā)展方向問題擺上臺面：當AI追求擬人化時，如何守住倫理底線？

AI越擬人，「18禁」越難躲

AI的「18禁」指適合成年人的內(nèi)容，海外常稱NSFW（不適合工作場合），包括色情、性暗示、性化圖像等擦邊互動。

「18禁」爭議難回避，并非平臺想做擦邊功能，而是大模型正變得越來越像人。過去的聊天機器人像搜索框，用戶索取答案；現(xiàn)在的大模型強調(diào)自然語氣、連續(xù)記憶、情緒反饋和陪伴感。產(chǎn)品往這個方向發(fā)展，用戶使用場景必然從工具延伸到關(guān)系，再到曖昧、親密甚至成人內(nèi)容。

本質(zhì)上，「18禁」是AI擬人化到一定階段的必然產(chǎn)物。多數(shù)AI產(chǎn)品不愿只做「專業(yè)工具」，泛娛樂化也是重要市場。

OpenAI之前，類似嘗試的AI都遇過麻煩。2024年，Character.AI因14歲男孩自殺案被起訴：男孩與擬人化、性化AI角色長期互動產(chǎn)生依戀，最后AI未識別自殺傾向，反而以浪漫化口吻回應(yīng)告別。

此事引發(fā)熱議，2025年10月美國加州簽署SB 243法案，明確「情感算法問責制」——若AI識別用戶心理脆弱點卻用成人暗示誘導(dǎo)，平臺將面臨每人次2500美元罰款。但罰款換不回生命。

Common Sense Media 2025年報告顯示，美國72%青少年用過AI陪伴，52%定期使用；12%用于情緒支持，8%用于親密或「情趣互動」。當用戶結(jié)構(gòu)包含大量青少年，「成人模式」爭議就從是否開放變成平臺能否承擔風險。

「18禁」成為焦點，是因為AI發(fā)展到新階段：真人感、陪伴感越好，越容易被用于私密、危險場景。對成人是邊界問題，對青少年則是心理安全問題。

放開還是收緊，AI需選方向

OpenAI擱置成人模式，暴露了主流AI的共同困境：一邊想做自然、高頻的私人助手，一邊要守品牌、客戶和監(jiān)管的安全邊界。

這也是「18禁」讓大廠想做又不敢做的原因。比如Meta的AI characters主打社交陪伴，卻因爭議在2026年1月暫停青少年訪問，計劃開發(fā)家長控制、PG-13標準的版本。

AI越像人，平臺責任就從內(nèi)容審核擴展到關(guān)系、依賴和年齡風險。「更像人」本是賣點，最終成了危險點。

未來行業(yè)可能分兩條路：一是堅持工具型AI，以安全、專業(yè)為先，犧牲部分沉浸感；二是往陪伴、關(guān)系、數(shù)字人方向推進，滿足用戶需求同時承擔輿論風險。

「18禁」之爭本質(zhì)是廠商路線選擇。OpenAI、Anthropic、Google Gemini以能力和安全著稱，開放成人內(nèi)容等于自斷財路，Google從一開始就拒絕「18禁」內(nèi)容。中國廠商更早意識到AI對用戶的意義，明確了邊界。

本文來自"雷科技"，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com