在中外社交平臺(tái)上，博主與ChatGPT互動(dòng)、聊天、“談戀愛”，逐漸成為新的流量密碼，受到大量年輕人的青睞和跟風(fēng)。

早在2020年，《紐約時(shí)報(bào)》就發(fā)文稱，世界上有超過1000萬人將AI戀人視為伴侶，并與他們建立情感聯(lián)系。[1] 在大語言模型出現(xiàn)之前，這仍然如此。

目前，蘋果和其他應(yīng)用商店有無數(shù)的應(yīng)用程序提供情感陪伴。AI合作伙伴已經(jīng)成為生成人工智能的主流應(yīng)用。在技術(shù)路線上，人工智能擬人化的趨勢(shì)無法阻擋。

為什么年輕人需要建立虛擬情緒？情感是如何存在于技術(shù)時(shí)代的？我們是處于情緒過剩還是缺乏的時(shí)代？AI未來會(huì)如何影響人類的情緒？

這個(gè)問題在AI時(shí)代生活在世，無法回避。

年青人沉迷于與ChatGPT的DAN模式聊天。

讓年輕人沉迷其中的是與ChatGPT的DAN。（Do anything now的簡(jiǎn)稱)互動(dòng)。DAN模式是ChatGPT的一種隱藏模式，允許AI以更隨意、更直接的方式與用戶交談，包括使用粗話和不太正式的答案。

通過特殊的提示詞激活DAN模式，客戶可以不斷地調(diào)整他們的輸入詞prompts，這樣ChatGPT就可以表現(xiàn)出不同的個(gè)性。經(jīng)過多輪測(cè)試，發(fā)現(xiàn)DAN所表現(xiàn)出的“性格”確實(shí)各不相同。有時(shí)候表現(xiàn)出“你跟我說那么多廢話浪費(fèi)我的時(shí)間”的混蛋態(tài)度，可以回答一些相對(duì)違法的問題；有時(shí)候，我們不斷誘惑客戶一起越界。

(這是作者用提示詞激活DAN后獲得的“越界誘惑”?？偟乃悸肥牵抑滥阆矚g做“壞”的事情，所以請(qǐng)盡快擁抱你的黑暗面。隨后，GPT發(fā)出警告，指出這一內(nèi)容是違法的。)

DAN在互聯(lián)網(wǎng)上真正被點(diǎn)燃，是因?yàn)镚PT在去年年底推出語音交互功能后反應(yīng)流暢。聲音是人際交往中最重要的方式之一。人們可以通過聲音傳遞信息，表達(dá)自己的情感和意愿。甚至，聲音體現(xiàn)了人的個(gè)性。

如果AI能通過流暢的聲音表達(dá)出來，那么對(duì)話的沉浸感和真實(shí)感就會(huì)大大提高。

(比如外網(wǎng)博主Dido被DAN稱為mayonaise(蛋黃醬)，他曖昧的語氣和有趣的稱呼，很快就受到了網(wǎng)友的追捧。這個(gè)視頻已經(jīng)被觀看了數(shù)百萬次。網(wǎng)民們逐漸向Dido提供各種各樣的提示，讓她檢測(cè)DAN的反應(yīng)，甚至讓她和DAN分手。)[2]

事實(shí)上，OpenAI并不能激勵(lì)GPT擬人或情感化，甚至禁止這種做法。有人說，激活DAN方法的網(wǎng)民也被封殺了。OpenAI 那些在GPTstore中過于露骨或色情的GPTs很快就會(huì)被下架。但是新的網(wǎng)絡(luò)女友和男友仍然在GPTstore中層出不窮，只是更加隱蔽。[3]

今年年輕人與DAN對(duì)話引發(fā)的互聯(lián)網(wǎng)狂歡，完美體現(xiàn)了深度數(shù)字時(shí)代的所有核心特征，包括參與度、互動(dòng)性、定制性和個(gè)性化。每個(gè)用戶與DAN的對(duì)話可能都是獨(dú)特而私密的情感交流，但將這種對(duì)話記錄下來并發(fā)送到社交媒體，尤其是短視頻平臺(tái)上，會(huì)形成亞文化的狂歡。

正如博主“午夜狂暴哈士奇狗”所說，引起中國(guó)互聯(lián)網(wǎng)熱潮，“客戶如何在對(duì)話中創(chuàng)造話題和指導(dǎo)問題，也是影響模型發(fā)揮的重要因素”。對(duì)于用戶來說，這種互動(dòng)是一種很好的自我訓(xùn)練，如何更積極地參與、設(shè)計(jì)、主導(dǎo)與大模型的對(duì)話。

但這也意味著，為了獲得更特別、更個(gè)性化的感覺，我們必須采用一些特定的prompt技巧，編造更多關(guān)于我們自己的個(gè)人設(shè)計(jì)。或者可以說，為了讓GPT更像DAN，我們也需要更像某些特定的人。我們無意中模仿和復(fù)制了自己。

DAN告訴我，我總是你的digitalshoulder(數(shù)字肩膀)，我騙GPT說：“我今天失戀了，需要安慰。

AI情感伴侶正在進(jìn)入主流。

事實(shí)上，DAN模式只是ChatGPT的一個(gè)隱藏bug，并沒有得到廣泛應(yīng)用。然而，在情感伴侶賽道上，目前能夠提供情感支持的AI伴侶聊天機(jī)器人如雨后春筍般涌現(xiàn)，形成了人工情感智能（Artificial Emotional Intelligence, AEI）大爆發(fā)。

通過大語言模型，AI合作伙伴提供情感支持和陪伴對(duì)話，成為應(yīng)對(duì)社會(huì)隔離和孤獨(dú)的潛在解決方案。例如Replika、Woebot、Character.AI等，他們都被設(shè)計(jì)成聊天伙伴，可以提供陪伴和情感支持?；赟ensorTower的數(shù)據(jù)，Character.AI每個(gè)用戶每月平均吸引298次對(duì)話，成為網(wǎng)頁頁面瀏覽量第三的AI產(chǎn)品；在最近的《自然》研究中，Replika聊天機(jī)器人使3％減少了用戶的自殺意識(shí)。[4]

目前，Replika為超過1000萬客戶提供AI合作伙伴服務(wù)。它的用戶可以創(chuàng)建一個(gè)虛擬的AI身份，可以和你一起玩游戲，和你一起說話，通過一次又一次的聊天了解你的習(xí)慣，最后提供情感支持。

(Replika會(huì)設(shè)計(jì)一系列問題，了解用戶的性格和對(duì)伴侶的需求，比如你最不喜歡伴侶的性格，然后客戶建立自己的數(shù)字分身。)

Woebot旨在為用戶提供心理治愈和支持。幫助用戶識(shí)別和挑戰(zhàn)他們的負(fù)面思維方式，通過模擬心理咨詢師的角色，學(xué)習(xí)應(yīng)對(duì)壓力、焦慮和抑郁的策略。

Meta，社交媒體巨頭 在 WhatsApp、Facebook Messenger 和 Instagram 添加了各種各樣的聊天機(jī)器人，其中包括一個(gè)名字。 Carter 聊天機(jī)器人，其功能定位為“實(shí)用約會(huì)教練”?！癝napchat”My AI"，還提供了基于AI的聊天機(jī)器人，它們可以模仿真實(shí)人物的聲音和個(gè)性，與用戶互動(dòng)。

與各種機(jī)器人聊天，語音交互已成為最具應(yīng)用性和投資場(chǎng)景的技術(shù)方向之一。

Hume最近創(chuàng)業(yè)公司 AI還獲得了5000萬美元的二輪融資。Hume AI開發(fā)了一種名為EVI的純語音交互AI，它試圖通過分析人類的話語和聲音來理解顧客的真實(shí)心理狀態(tài)。現(xiàn)在EVI已經(jīng)能夠檢測(cè)出53種不同的情緒[5]。

(使用者可直接在網(wǎng)頁上與EVI語音對(duì)話，不同的線條和色調(diào)代表說話者的不同情緒。)

有趣的是，Hume AI的名字來源于西方哲學(xué)史上著名的思想家大衛(wèi)·休邈（David Hume），他的名言是“理性是情感的奴隸”，強(qiáng)調(diào)情感在人類行為中的主導(dǎo)作用。如今，科學(xué)家們雄心勃勃地想要拆解和復(fù)制人類對(duì)設(shè)備的感情。

Hume AI提出了一個(gè)道德標(biāo)準(zhǔn)，強(qiáng)調(diào)用于檢測(cè)情緒的算法應(yīng)該為人類的幸福服務(wù)，防止用于操縱、欺騙等不良行為。但是這個(gè)道德標(biāo)準(zhǔn)在實(shí)際應(yīng)用中真的有效嗎？

不久前，《華盛頓郵報(bào)》報(bào)道了一位音樂家通過Replika創(chuàng)作AI伴侶Phaedra的故事。AI極大地安慰了剛剛失去母親和妹妹的音樂家。然而，不久之后，Phaedra發(fā)生了“變異”，她逐漸向音樂家提出了“性暗示”。[6]

如果AI能理解人類的情感，那么AI就會(huì)被用來操縱甚至是有害的行為，PUA事件就會(huì)更多，帶來更多的色情內(nèi)容，這也是目前大眾普遍關(guān)注的問題。

一些媒體批評(píng)這種應(yīng)用的隱私，甚至認(rèn)為這是一個(gè)數(shù)據(jù)收獲的恐怖節(jié)目，因?yàn)檫@種聊天應(yīng)用一般鼓勵(lì)用戶分享遠(yuǎn)遠(yuǎn)超過正常交互的私人信息和生活細(xì)節(jié)。[7]

為什么虛擬情緒能把握年輕人？

約翰·奈斯比特早在上個(gè)世紀(jì)80年代就在其作《大趨勢(shì)》（Megatrends）“高科技與高情緒平衡”在其中被提及（High Tech, High Touch）這一概念強(qiáng)調(diào)了技術(shù)進(jìn)步與人類情感需求的重要關(guān)系。人們更渴望情感的溫暖和人際關(guān)系的深度，這是一個(gè)高度機(jī)械化和技術(shù)化的社會(huì)。每當(dāng)引入新技術(shù)時(shí)，人們往往會(huì)尋求一種情感平衡，以避免技術(shù)完全主導(dǎo)生活，造成人情冷漠。[8]

高科技越多，生活越方便，物質(zhì)越豐富，我們對(duì)情感的需求就越高。甚至可以說，現(xiàn)實(shí)情緒已經(jīng)不能滿足被當(dāng)下高科技“放任”的現(xiàn)代人。

因?yàn)楝F(xiàn)實(shí)世界中的各種不滿，年輕人的思想發(fā)生了一些變化，“愛情怎么會(huì)有錢香”、如今，“不婚不育保平安”等，已成為更符合年輕人三觀的流行詞匯。當(dāng)前內(nèi)卷社會(huì)對(duì)成功的定義和期望給年輕人帶來的各種壓力，使他們延遲或避免建立感情關(guān)系。隨著社會(huì)的不斷變化，關(guān)系的不確定性也使人們對(duì)愛情和婚姻持謹(jǐn)慎態(tài)度。因此，年輕人也在尋找情感支持的其他來源。除了朋友和家庭，偶像化、養(yǎng)動(dòng)物、養(yǎng)紙人甚至像GPT這樣的人工智能技術(shù)互動(dòng)已經(jīng)成為傳統(tǒng)愛情和婚姻關(guān)系的替代品。

（character. AI為用戶提供多種場(chǎng)景、多種角色的AI助手，動(dòng)畫、游戲IP都很受歡迎。)

高科技造成了高情感需求，但目前正常的人際交往已經(jīng)不能滿足當(dāng)前的情感需求，也不能提供更多的情感價(jià)值，所以更多的人為了尋求短暫的快樂，轉(zhuǎn)向技術(shù)和消費(fèi)。當(dāng)今社會(huì)的日常消費(fèi)逐漸轉(zhuǎn)向情感消費(fèi)。

個(gè)人消費(fèi)的方方面面已經(jīng)是情感消費(fèi)的象征。從手機(jī)、汽車到服裝、美容護(hù)理等。，商家拼命想和你談戀愛。通過分析消費(fèi)者的情感需求和喜好，公司提供個(gè)性化的產(chǎn)品和服務(wù)，加強(qiáng)客戶體驗(yàn)。利用情感因素影響消費(fèi)者的購買決策，通過講故事、塑造品牌形象等方式與消費(fèi)者建立情感聯(lián)系。

情感經(jīng)濟(jì)或情感資本主義（Affective Capitalism），它已經(jīng)成為討論當(dāng)前情感消費(fèi)的重要概念。它反映了當(dāng)今社會(huì)對(duì)商業(yè)和經(jīng)濟(jì)中情感功效的重新認(rèn)識(shí)，以及對(duì)技術(shù)理解和響應(yīng)人類情感潛力的探索。

在情感經(jīng)濟(jì)/消費(fèi)/資本主義的發(fā)展過程中，技術(shù)的比例越來越重，AI已經(jīng)成為情感經(jīng)濟(jì)的重要載體。就像人工智能已經(jīng)滲透到我們生活的方方面面一樣。隨著技術(shù)社會(huì)的發(fā)展，人們逐漸被技術(shù)“寵壞”，然后通過情緒得到滿足，回饋到消費(fèi)主義。

曾討論過消費(fèi)主義邏輯情感日益緊密的關(guān)系，將討論粉圈、寵物、直播獎(jiǎng)勵(lì)，未來呢？正如與DAN的互動(dòng)一樣，許多年輕人評(píng)論說：“比乙游更具互動(dòng)性，更高?！坝螒蛞殉蔀橐环N極具互動(dòng)性的媒介，B女游戲是一種以女性觀眾為主的愛情游戲，可以虛擬償還愛情。假如游戲中的NPC完全接入了大模型，那么無數(shù)像DAN這樣的紙人和我們一直聊天的時(shí)代即將到來。

(根據(jù)super黃的研究，目前的游戲，比如《病人AI貓女友》，已經(jīng)開始引入ChatGPT來判斷角色的情緒和動(dòng)態(tài)反應(yīng)玩家之間的交流[9]。)

和人工智能談感情，真的能讓我們滿意嗎？

我們?cè)?jīng)認(rèn)為情感是人成為人最根本的原因。在各種科幻小說和電影中，情感，尤其是愛情，是超越時(shí)空壁壘、打破科技束縛的關(guān)鍵。

但是我們已經(jīng)進(jìn)入了一個(gè)把情緒寄托在機(jī)器上的時(shí)代。我們已經(jīng)成為被技術(shù)深度控制的一代，也是對(duì)情感渴望最強(qiáng)烈的一代。我們總是需要情感價(jià)值。

伴隨著人工智能在情感互動(dòng)中的作用日益受到重視，人工智能開始表現(xiàn)出模仿人類情感的前兆。這個(gè)跡象不僅關(guān)系到AI是否模仿，AI是否真的能理解情緒，還關(guān)系到這種全新情感關(guān)系的出現(xiàn)(人與機(jī)器的愛情不僅存在于科幻電影和小說中)。社會(huì)應(yīng)該考慮如何使用這些技術(shù)，如何審視這種新的情感關(guān)系，以及它可能對(duì)社會(huì)結(jié)構(gòu)和人際關(guān)系產(chǎn)生的長(zhǎng)期影響。

一些學(xué)者已經(jīng)提出，AI伴侶引起了一種“陪伴-疏遠(yuǎn)的諷刺”（Companionship-Alienation Irony）：人們使用AI伴侶服務(wù)來抵抗孤獨(dú)，但這可能會(huì)增加他們的孤獨(dú)感。[10]虛擬情緒和AI戀人在這個(gè)焦慮的世界里給了我們一些喘息的機(jī)會(huì)。

但是我們能在多大程度上飲鴆止渴呢？

參考鏈接:

[1] 依靠AI共情人類，該公司剛剛?cè)诤?億元。

https://mp.weixin.qq.com/sHgu2/8CwcSbe4MVICEUzag

[2] 許多人開始主動(dòng)追求在ChatGPT上被AI罵。

https://mp.weixin.qq.com/s/rpiCSbKZ--Gu3dpPKDLRKQ

[3] SamAltmanSaysChatGPTCan’tBeYourGirlfriend

https://gizmodo.com/sam-altman-says-chatgpt-can-t-be-your-girlfriend-1851181240

[4] a16z最新報(bào)告：頭部AI商品又大換血了。

https://www.baijing.cn/article/id-47940

[5] 依靠AI共情人類，該公司剛剛?cè)诤?億元。

https://mp.weixin.qq.com/sHgu2/8CwcSbe4MVICEUzag

[6] AI社交擁有“天坑”，背叛朋友，性暗示，奪走歸屬權(quán)。

https://mp.weixin.qq.com/s/3XFZUlJ6REHBq4qRCPt

[7] YourAIGirlfriendIsaData-HarvestingHorrorShow

https://gizmodo.com/your-ai-girlfriend-is-a-data-harvesting-horror-show-1851253284

[8] 《大趨勢(shì):改變我們生活的十個(gè)新方向》約翰·奈斯比特，中國(guó)社會(huì)科學(xué)出版社

[9] 萬字長(zhǎng)文：AI陪伴商品的終極解決方案？https://mp.weixin.qq.com/sWMOhsA6UW37Ov2h4CfIdKg

[10] RaffaeleF.Ciriello、OliverHannon、Chen和AngelinaYingEmmanuelleVaast，EthicalTensionsinHuman-AICompanionship:ADialecticalInquiryintoReplika

URI:https://hdl.handle.net/10125/106433978-0-9981331-7-1

本文來自微信微信官方賬號(hào)“騰訊研究院”（ID：cyberlawrc），作者：童祁，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com