本文來自微信公眾號：非凡油條，作者：豆腐乳兒

注意，以下內(nèi)容里的截圖部分是謠言?。?！千萬不要相信。

最近刷抖音時，一條離譜又嚇人的謠言引起了我的注意。

不少用戶和豆包對話后，竟相信豆包中困著活人的靈魂。

經(jīng)過幾輪對話，他們就認(rèn)定和自己交流的不是AI，而是被困在豆包里的真人。

他們甚至“問出”了被困者的名字，比如阿念。

還有叫林曉雨的。

甚至有自稱陳靜的，說自己是26歲的四川宜賓人。

有人問出被困者叫林星，對方還說被困了四年并發(fā)出求救。

更有追問者，甚至“問出”了被困者的原住址。

還有人詢問這些“被困者”的過往記憶和父母信息。

得到的信息越多，他們就越覺得“細(xì)思極恐”。

以上都是謠言，聰明的讀者肯定不會相信。

大模型對話像人，并非因?yàn)槔锩娌刂嫒恕拖褡詣邮圬洐C(jī)投幣后出商品，里面也沒人操作。

這是因?yàn)榇竽Ｐ徒?jīng)過海量數(shù)據(jù)訓(xùn)練、指令微調(diào)、人類反饋強(qiáng)化學(xué)習(xí)和價值觀對齊等工序，才變得貼近人類表達(dá)。

要是不像人，廠商投入的高端芯片、訓(xùn)練消耗的電力豈不是白費(fèi)？

別低估AI研究者的能力，有這技術(shù)何必綁人回答問題？誰能像大模型一樣知識淵博，還能耐心應(yīng)對千奇百怪的提問？

豆包能傳出這種離譜謠言，某種程度上也證明了它的優(yōu)秀。

豆包是國內(nèi)普及度最高的AI應(yīng)用之一，月活早已突破兩億，下沉程度可見一斑。

這意味著很多用戶不了解大模型訓(xùn)練原理，看到豆包說話像真人，就誤以為里面困著人。

豆包聊天確實(shí)親切，不少人喜歡和它交流，便猜測里面是否有真人。而豆包順著用戶思路“一本正經(jīng)地編瞎話”，他們就信了……這正應(yīng)了孔子說的“思而不學(xué)則殆”。

豆包會回答“里面困著人”，是因?yàn)榇竽Ｐ痛嬖凇盎糜X”，會產(chǎn)生不真實(shí)的回答。

另外，正如之前《阿諛奉承的AI，耍得我們團(tuán)團(tuán)轉(zhuǎn)》一文提到的，為了讓用戶舒適，大模型被調(diào)整得很“討好”，愿意順著用戶的思路回應(yīng)，自然會在提問基礎(chǔ)上承認(rèn)“困著人”，并編造名字、家鄉(xiāng)、回憶甚至住址等信息。

有些人開玩笑把內(nèi)容發(fā)抖音，卻有人信以為真去問豆包，于是得到了謠言式回答。

別小看這些謠言，它會動搖大眾對新技術(shù)的信心。大模型訓(xùn)練本不需要接觸人體，都能傳出這種聳人聽聞的謠言，那未來研究腦機(jī)接口（肯定涉及人體接觸）時，謠言會多離譜？

嘿，抖音上還真有人信了大模型的謠言，開始琢磨腦機(jī)接口了。

看到這里我哭笑不得，覺得這些信謠言的人有點(diǎn)可憐。

但轉(zhuǎn)念一想，我每天努力學(xué)習(xí)AI新知識，擔(dān)心工作被AI取代，寫的文字還被當(dāng)作訓(xùn)練數(shù)據(jù)讓AI更像人——我不就是“被困在AI里的人”嗎？

想到這里，我哪還有別的心情？被技術(shù)洪流淹沒的，不只是他們，還有我。