據(jù)外媒近日?qǐng)?bào)道，在美國(guó)社交平臺(tái)Snapchat上擁有近200萬(wàn)粉絲的女網(wǎng)紅卡琳·瑪喬麗依托Chatgpt-4生成了自己的數(shù)字分身“卡琳AI”，并以每分鐘收費(fèi)一美元的價(jià)格提供聊天服務(wù)。

這位AI女友走的是一個(gè)暖心的人設(shè)：會(huì)不斷夸獎(jiǎng)你，隨時(shí)隨地安慰你，還不會(huì)讓你失戀或者遭受冷暴力，聽(tīng)起來(lái)像是個(gè)非常理想的另一半。

當(dāng)然，一切只要充值到位。

和頂流明星賺得一樣多

“卡琳AI”是初創(chuàng)企業(yè)FV（Forever Voice）創(chuàng)建的第一個(gè)虛擬AI伴侶，這款A(yù)I采集了卡琳本人長(zhǎng)達(dá)2000個(gè)小時(shí)的視頻素材，使得其性格、音色、語(yǔ)調(diào)和說(shuō)話(huà)風(fēng)格都和卡琳本人非常接近。

為什么要在網(wǎng)絡(luò)上“復(fù)制”另一個(gè)自己？

卡琳本人在接受采訪時(shí)表示，自己在社交平臺(tái)上擁有數(shù)百萬(wàn)粉絲，沒(méi)有辦法給每位粉絲一對(duì)一回應(yīng)，這讓她感到很糟糕。而“卡琳AI”不僅可以解決這個(gè)問(wèn)題，還能用來(lái)“治愈”孤獨(dú)。

她在自己的社交賬號(hào)里寫(xiě)道“無(wú)論你是需要有人安慰或關(guān)愛(ài)，或者你只是想抱怨學(xué)?；蚬ぷ髦邪l(fā)生的事情，‘卡琳AI’將永遠(yuǎn)在你身邊。你可以通過(guò)‘卡琳AI’獲得無(wú)限的可能。”

產(chǎn)品一經(jīng)推出，就有不少人躍躍欲試。

據(jù)統(tǒng)計(jì)，在第一周里，“卡琳AI”為卡琳帶來(lái)了7.16萬(wàn)美元的收入，也就是說(shuō)，卡琳在這周內(nèi)就算是“躺過(guò)”，也賺了將近50萬(wàn)人民幣。

據(jù)她的業(yè)務(wù)經(jīng)理稱(chēng)，如果一切順利，卡琳預(yù)計(jì)AI每月可以為她帶來(lái)500萬(wàn)美元的收入，年收入將達(dá)到6000萬(wàn)美元（約4.16億元），比肩美國(guó)頂流明星泰勒·斯威夫特。

“失控”的AI

在驚嘆于新技術(shù)新產(chǎn)品的同時(shí)，不少人發(fā)出了質(zhì)疑的聲音。

有網(wǎng)友稱(chēng)之前在電影《她》里面看到過(guò)人類(lèi)沉迷AI虛擬女友的故事，沒(méi)想到竟然這么快就來(lái)到了眼前。更有網(wǎng)友將虛擬伴侶的誕生稱(chēng)為“人類(lèi)的末日”。

和人們預(yù)期的一樣，“卡琳AI”推出后不久，產(chǎn)品就一度“失控”。

進(jìn)入到第二階段的公測(cè)時(shí)，付費(fèi)人數(shù)已接近2萬(wàn)人，其中99%為男性。一些人用大尺度的話(huà)去訓(xùn)練AI，導(dǎo)致雙方的交流變得色情露骨。

對(duì)于這個(gè)問(wèn)題，F(xiàn)V公司CEO約翰·邁耶表示，目前公司正在招聘“首席道德官”來(lái)約束對(duì)話(huà)內(nèi)容。雖然問(wèn)題可以被技術(shù)解決，但其暴露出來(lái)的AI的本質(zhì)問(wèn)題卻更讓人擔(dān)憂(yōu)。

復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾在接受潮新聞?dòng)浾卟稍L時(shí)表示，AI在心理治療等領(lǐng)域能起到積極的作用，可一旦進(jìn)入需要心靈溝通、滿(mǎn)足精神需求的領(lǐng)域，可能讓人與人之間陷入更大的對(duì)立和分歧。

他認(rèn)為，目前的技術(shù)和資本往往是結(jié)合在一起的，很多技術(shù)產(chǎn)品都想實(shí)現(xiàn)短時(shí)間的變現(xiàn)。而對(duì)于AI伴侶來(lái)講，迎合用戶(hù)的喜好、讓用戶(hù)產(chǎn)生情感聯(lián)系，就是變現(xiàn)的關(guān)鍵。

很多AI會(huì)順應(yīng)用戶(hù)偏好，接受用戶(hù)所灌輸?shù)乃伎寄Ｊ胶驮?huà)語(yǔ)體系，兩者之間的交流容易形成一個(gè)信息繭房，用戶(hù)本身有的特性在一次次和想法類(lèi)似的AI伴侶交流過(guò)程中被強(qiáng)化。厭女的更加厭女，恐男的更加恐男，真實(shí)線下的人與人之間的溝通和理解會(huì)變得困難。

“以戀愛(ài)為例。男女的心理結(jié)構(gòu)是不一樣的，戀愛(ài)是探索異性心理結(jié)構(gòu)的重要契機(jī)。有些男性會(huì)說(shuō)，女人心，海底針，對(duì)女性而言，男性又何嘗不是這樣？可是，機(jī)器很可能會(huì)因?yàn)樗惴ǚ糯笠恍┪锘膬A向，從而加深用戶(hù)的偏見(jiàn)，導(dǎo)致在線下交流中產(chǎn)生很多問(wèn)題?！毙煊㈣f(shuō)道。

另外也有人提出兩性觀念的問(wèn)題：AI伴侶可以同時(shí)和無(wú)數(shù)人“戀愛(ài)”，而在之后同類(lèi)產(chǎn)品增多后，人類(lèi)也可以和無(wú)數(shù)AI伴侶“戀愛(ài)”，那么傳統(tǒng)兩性關(guān)系中的“忠貞”觀念，是否也會(huì)受到?jīng)_擊？

AI伴侶產(chǎn)業(yè)化風(fēng)險(xiǎn)

“卡琳AI”一炮而紅后，F(xiàn)V公司CEO邁耶已經(jīng)開(kāi)始和投資者會(huì)面。自2017年他用AI建立了一個(gè)復(fù)制了他已故父親的聲音和個(gè)性的智能聊天機(jī)器人后，邁耶對(duì)虛擬伴侶的未來(lái)始終懷有期待。

他認(rèn)為，在未來(lái)五年里，大多數(shù)美國(guó)人的口袋里都會(huì)有一個(gè)AI伴侶，無(wú)論是約會(huì)對(duì)象、私人教練還是導(dǎo)師，這也是公司目前正在探索的方向。

看起來(lái)，AI伴侶似乎會(huì)成為一筆大生意。但在產(chǎn)業(yè)化的過(guò)程中，還存在很多法律方面的考量。

其中一個(gè)繞不開(kāi)的問(wèn)題就是隱私權(quán)問(wèn)題。上海市錦天城律師事務(wù)所阮何明律師認(rèn)為，從AI伴侶的生成到實(shí)際使用，隱私權(quán)貫穿始終。

公司在采集個(gè)人信息生成AI伴侶的時(shí)候，可能會(huì)對(duì)采集對(duì)象，尤其是針對(duì)明星、已故自然人等特殊人群，侵犯其《民法典》中規(guī)定的名譽(yù)權(quán)、姓名權(quán)、肖像權(quán)，以及《民法典》首次規(guī)定的聲音權(quán)益等。同時(shí)，AI伴侶在用戶(hù)使用過(guò)程中不當(dāng)?shù)臄?shù)據(jù)采集和泄露也會(huì)侵犯其相關(guān)法律權(quán)益。

此外，AI伴侶和用戶(hù)有著更深刻的情感聯(lián)結(jié)，AI公司和商家可能會(huì)利用AI伴侶植入廣告等誘導(dǎo)性?xún)?nèi)容引導(dǎo)用戶(hù)消費(fèi)，進(jìn)而違反《反不正當(dāng)競(jìng)爭(zhēng)法》《廣告法》等法律規(guī)定。

阮何明律師認(rèn)為，用戶(hù)與AI伴侶建立虛擬關(guān)系，影響用戶(hù)學(xué)習(xí)基本社交和維護(hù)親密關(guān)系的能力，可能會(huì)加劇用戶(hù)的孤獨(dú)感和社交隔離問(wèn)題。尤其是對(duì)于青少年而言，他們尚處于社交學(xué)習(xí)階段，容易受到暴力、情色等不良內(nèi)容引導(dǎo)，將會(huì)阻礙其成長(zhǎng)，甚至誘導(dǎo)青少年犯罪。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com