AIGC大模型放飛了市場對虛擬人的想象。

給ChatGPT穿一個“皮套”，應(yīng)該就是個很好用的虛擬人了。再想多一點，我可以拿自己所有的歷史數(shù)據(jù)，訓(xùn)練出來一個我的虛擬分身，讓這個“我”做我的秘書。分布式、定制化的AIGC，世界上每一個人都可以擁有一個虛擬分身。一些不重要的工作和社會交際，就讓分身們在虛擬空間里面自動完成。

再往下設(shè)想，事情就會變得狂野。一個現(xiàn)成的擔(dān)憂來自電影《流浪地球》：人類把太多決策交給了人工智能，結(jié)果人工智能掐指一算，發(fā)現(xiàn)干掉人類才是世界的*解。

我們還沒有為一個充斥著虛擬人的世界做好倫理上的準(zhǔn)備。

這確實關(guān)系到虛擬人治理與合規(guī)的未來趨勢。最近，官方開始把關(guān)注的目光聚焦于AI的應(yīng)用層面。一個重要的事件是本月底，歐盟議會計劃就《人工智能法》舉行投票。而前日信通院發(fā)起的《可信虛擬人生成內(nèi)容管理系統(tǒng)技術(shù)要求》標(biāo)準(zhǔn)制定項目，并且正在籌備《可信虛擬人白皮書》，更是把目標(biāo)直指虛擬人AIGC。

虛擬人如果獲得了更強(qiáng)大的智能內(nèi)核，它應(yīng)該遵循怎樣的社會責(zé)任邏輯？

治理虛擬人，本質(zhì)上還是治理真人

一位游戲從業(yè)者告訴虎嗅，“虛擬人有很多定義和應(yīng)用場景，但歸根到底虛擬人可以分成兩種，有靈魂的和沒有靈魂的”。

目前而言，虛擬人的“靈魂”是很貴的。它一方面需要技術(shù)的解決方案，另一方面需要內(nèi)容方面的持續(xù)投入。在C端消費市場，“靈魂”或曰“人格”是虛擬人IP的核心競爭力：讓虛擬人擁有一個好看的皮囊并不難，有趣的靈魂才能吸引粉絲持續(xù)地關(guān)注。這往往需要背后一整個內(nèi)容的策劃與生產(chǎn)團(tuán)隊，以及一些合格的“中之人”。部分虛擬偶像還需要用戶共創(chuàng)和用戶生成內(nèi)容來起到充實人格的作用。所以它們的內(nèi)核依然是PGC或UGC。此外，虛擬人要在表情、聲音、動作、交互上顯得有靈氣，需要相當(dāng)大的技術(shù)投入。在這些成本的約束下，即便是大廠旗下的虛擬人也不可能在以上所有方面都擅長。

虛擬人成為怎樣一個“人”，這是個運營問題，而非技術(shù)問題——在目前以及可預(yù)見的將來都是如此。虛擬人的人格是由運營商、用戶、中之人賦予的，技術(shù)只是實現(xiàn)的手段。于是針對虛擬人的治理，主要還是管理虛擬人背后的真人。

目前國內(nèi)的互聯(lián)網(wǎng)生態(tài)，已經(jīng)開始處理這一類問題原初版本。比如在2020年，著名主持人何炅將一家技術(shù)公司告上法庭，原因是該公司的APP產(chǎn)品為用戶提供了定制聊天機(jī)器人的服務(wù)，于是有用戶用何炅的姓名和肖像“調(diào)教”出來一個聊天機(jī)器人。最終北京互聯(lián)網(wǎng)法院認(rèn)定，被告公司的產(chǎn)品不僅侵犯了何炅的肖像權(quán)，而且還對原告的人格自由和人格尊嚴(yán)造成潛在負(fù)面影響，判決被告賠禮道歉、賠償損失。

聊天機(jī)器人也好，更復(fù)雜一些的AI應(yīng)用也好，涉及到一些用現(xiàn)有邏輯就能解決的法律問題。監(jiān)管和執(zhí)法部門只需要把從前給傳統(tǒng)媒體和互聯(lián)網(wǎng)治理畫的“紅線”稍微再畫長一點，就能把AIGC、虛擬人也涵蓋進(jìn)去。

2023年1月10日，網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱為《規(guī)定》）開始實施。該法規(guī)的關(guān)鍵詞“深度合成”（Deep Synthesis），指的是用深度學(xué)習(xí)或虛擬現(xiàn)實方法生成數(shù)字作品的技術(shù)，涵蓋AI生成的文字、圖像和聲音，也包含合成人聲、換臉、仿真空間等數(shù)字產(chǎn)品——這主要是AI領(lǐng)域在兩年前出圈的應(yīng)用，但也能夠?qū)IGC納入合規(guī)范圍。

《規(guī)定》中的具體內(nèi)容主要是從前監(jiān)管要求的必要延伸。比如，傳統(tǒng)上的信息服務(wù)，需要保證產(chǎn)品的信息安全屬性，不侵犯他人的隱私、肖像權(quán)、人格權(quán)、知識產(chǎn)權(quán)；這些原則現(xiàn)在也按《規(guī)定》適用于深度合成的產(chǎn)品或者服務(wù)。類似地，《規(guī)定》還要求內(nèi)容平臺履行審核義務(wù)，保證平臺上發(fā)布的深度合成作品符合法律法規(guī)、不危害國家安全和社會穩(wěn)定。

從現(xiàn)有的新規(guī)和判例可以看到，雖然目前虛擬人在版權(quán)、人格權(quán)、內(nèi)容安全等方面存在爭議，但這些爭議在多數(shù)情況下沒什么好爭的。線問題上，沒有新鮮事。業(yè)內(nèi)需要的只是一套明確的合規(guī)原則和責(zé)任認(rèn)定，然后在各自的角色上繼續(xù)開展工作。

商湯科技是AI數(shù)字人技術(shù)的一個領(lǐng)軍企業(yè)，其發(fā)言人告訴虎嗅：“《規(guī)定》給出了比較符合當(dāng)前業(yè)務(wù)邏輯的責(zé)任劃分，為‘技術(shù)支持者’、‘內(nèi)容提供者’及其他行業(yè)主體提供了比較明確的合規(guī)預(yù)期，并且也有助于規(guī)范市場，提升消費者的信心?！?/p>

不要被科幻帶跑

擔(dān)憂虛擬人倫理風(fēng)險的言論很有市場。但杞人憂天的角色不適合由政府監(jiān)管來領(lǐng)銜。虛擬人的社會責(zé)任探索，還是需要由企業(yè)和市場更自發(fā)地完成。這里面，企業(yè)社會責(zé)任有很大的發(fā)揮空間。

這里有一個新鮮出爐的反面教材：歐盟的《人工智能法》。這部法律草擬于2021年，即將在3月底（也就是本文發(fā)稿的幾天后）拿到歐洲議會上投票。

但是，投不投票已經(jīng)不重要了。因為ChatGPT的面世，已經(jīng)顛覆了《人工智能法》的一部分初衷。比如，歐盟《人工智能法》提議禁止一些有悖人權(quán)的人工智能應(yīng)用，比如某些人臉識別應(yīng)用。但是像ChatGPT這種泛用途的生成式AI，很難用原有的立法思路去判定它的風(fēng)險性。順著《人工智能法》的精神，歐盟可以權(quán)且把GPT判定為“高風(fēng)險AI”。但這無異于固步自封。

其實即便在ChatGPT問世之前，歐洲議會的議員已經(jīng)提出反對意見，指《人工智能法》對AI的應(yīng)用管得太細(xì)，將阻礙歐盟的科技創(chuàng)新。

一位AI倫理的研究者告訴虎嗅，其實歐盟的立法從2018年生效的《通用數(shù)據(jù)保護(hù)條例》（GDPR）開始，就已經(jīng)對AI技術(shù)的發(fā)展產(chǎn)生實質(zhì)上的阻礙作用了。很多技術(shù)企業(yè)由于這部數(shù)據(jù)安全法的限制，而難以實現(xiàn)技術(shù)上的創(chuàng)新。

《人工智能法》又一次實踐了歐盟立法機(jī)構(gòu)的行事風(fēng)格：快速介入、保護(hù)人權(quán)、對技術(shù)保持充分的不信任。歐盟在AI技術(shù)還在急速演化的階段，就倉促立法規(guī)范，導(dǎo)致《人工智能法》陷入如今的尷尬局面。這說明，現(xiàn)階段的AI倫理方面的治理還是需要由企業(yè)來主導(dǎo)。

雖然立法和行政部門不宜在AI治理領(lǐng)域介入過多，但是法律的保守立場是一貫的。

具體到虛擬人議題上，法律在未來可預(yù)見的時間里，應(yīng)該不會把AI和虛擬人當(dāng)人看待。換句話說，再完善的人工智能，法律也不會認(rèn)為它具備能動性和自主動機(jī)；AI和虛擬人牽涉的各種風(fēng)險，最終都要追責(zé)到相關(guān)的個人或者組織頭上。

這看起來或許非常不浪漫。在各種科幻作品中的人工智能造物，乃至真實投入市場的虛擬偶像、虛擬網(wǎng)紅，都被營造出一種“有自己獨立的想法和人格、能自主決策”的樣子。但是從當(dāng)下法學(xué)的主流態(tài)度來看，法律是不會把虛擬人當(dāng)作責(zé)任主體的。虛擬人所犯的所有錯誤，都需要背后的技術(shù)供應(yīng)商、內(nèi)容供應(yīng)商、運營商等實體來承擔(dān)。我們短時間內(nèi)不能指望虛擬人會依法承擔(dān)任何責(zé)任，抑或享有任何經(jīng)濟(jì)和政治權(quán)利。虛擬人只是作品，一如你早上煎的雞蛋也是作品。作品原本就不應(yīng)和“坐牢”扯上關(guān)系。作品出了問題，只能是你的責(zé)任。

至此，我們可以把“如何給虛擬人一個合格的靈魂”這么一個浪漫的問題，簡化成一個企業(yè)治理和社會責(zé)任問題。

負(fù)責(zé)任AI，一個企業(yè)治理話題

經(jīng)過幾年的討論和積淀，人類對AI的一般倫理要求，通常總括為“負(fù)責(zé)任AI”（responsible AI）或“可信AI”（trustworthy AI）這兩個概念。兩個表述也可以套用到AI的各個子產(chǎn)物上。正如信通院要制定的那個標(biāo)準(zhǔn)，說的是“可信虛擬人內(nèi)容生成”。

“負(fù)責(zé)任”或“可信”的總要求，又可以拆分成幾條具體的原則。不同科技公司有不同的拆法，但基本上大同小異。就拿行業(yè)先驅(qū)微軟為例，它把負(fù)責(zé)任AI歸納為6個原則：公平性、安全與可靠、隱私與數(shù)據(jù)安全、包容性、透明性、可問責(zé)性。

還拿《流浪地球》舉例，電影中的MOSS人工智能通過常人無法理解的計算，得出“保存人類文明的*選擇是毀滅人類”的結(jié)論。從可信AI的原則上講，MOSS首先是不透明的，是一個計算黑箱，很難看出她是哪根筋搭錯了，才得出那樣逆天的結(jié)論；同時也是不安全、不可靠、不可控的；最后她還是不可問責(zé)的，MOSS給作品中的人類社會造成種種問題，但人們卻拿她一點辦法沒有。

電影中的這種AI很能創(chuàng)造戲劇沖突，但現(xiàn)實中的AI倫理工作，與其假想出這樣一個逆天的AI，然后再感到茫然無措，不如從一開始就杜絕失控的苗頭。

產(chǎn)業(yè)鏈上比較大的技術(shù)供應(yīng)商通常都設(shè)有專門的AI倫理部門，他們依據(jù)對可信AI的原則拆分，開發(fā)出促進(jìn)公平、安全、透明等特性的技術(shù)解決方案，并將方案開源。比如下圖是IBM開源出來的一些促進(jìn)AI公平性的算法。

但技術(shù)遠(yuǎn)不是全部。正如信通院和京東探索研究院的《可信人工智能白皮書》所說，沒有*的技術(shù)，關(guān)鍵在于如何使用技術(shù)。

可信AI也是一套企業(yè)的工作方式，乃至是企業(yè)文化。微軟在公司的負(fù)責(zé)任AI辦公室網(wǎng)站上透露，團(tuán)隊在設(shè)計和研發(fā)AI產(chǎn)品時都會圍繞前述的“負(fù)責(zé)任AI六原則”進(jìn)行腦暴，分析可能的問題與疏漏，并且在運營中持續(xù)監(jiān)測其表現(xiàn)。微軟也建議AI的運營使用者也這么做。

單靠公司內(nèi)部腦暴還是不夠的。正如OpenAI的首席技術(shù)官Mira Murati在采訪中表示，由于GPT是一個非常泛用的工具，開發(fā)者其實很難事先知道它的所有潛在影響力和缺陷。所以公司才將GPT的部分功能開放給公眾，以探索這項技術(shù)的潛在問題。

可信虛擬人有什么特別的治理問題

具體到結(jié)合AIGC的虛擬人，會引發(fā)什么特殊的治理問題嗎？目前業(yè)界存在一些社會責(zé)任思考，只不過這些思考的體系化和行業(yè)共識程度低一些。對此，商湯科技作為《可信虛擬人生成內(nèi)容管理系統(tǒng)技術(shù)要求》的主要編制單位之一，向虎嗅透露了參與該項目的一些初衷。

關(guān)于可信虛擬人的特殊問題，商湯提到，當(dāng)AIGC技術(shù)被用于虛擬人生成之后，尤其當(dāng)擁有ChatGPT那樣的智能交互能力之后，虛擬人可以實現(xiàn)“超寫實”的效果。讓人真假難辨的虛擬人，可能會放大相關(guān)的風(fēng)險，加重給當(dāng)事人可能造成的危害。在這種情況下，除了現(xiàn)行的AIGC管理方式之外，負(fù)責(zé)任的企業(yè)可以同時利用一系列技術(shù)方案來加固虛擬人的可信力度。公司希望今年就這個問題推進(jìn)行業(yè)內(nèi)達(dá)成共識。

據(jù)商湯科技介紹，在虛擬現(xiàn)實與元宇宙產(chǎn)業(yè)聯(lián)盟（XRMA）中，成員企業(yè)一致認(rèn)同“可信”問題是與產(chǎn)業(yè)發(fā)展同等重要的，技術(shù)推進(jìn)與社會責(zé)任不可偏廢。此外另一個共識在于“虛擬人不與現(xiàn)實脫鉤”——AIGC不與真人的意愿脫鉤，虛擬人的權(quán)屬不與現(xiàn)實約束脫節(jié)，且產(chǎn)業(yè)不與監(jiān)管脫節(jié)。這些共識，預(yù)計會在“可信虛擬人AIGC”以及今后的各個行業(yè)標(biāo)準(zhǔn)中，得到進(jìn)一步的闡發(fā)。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com