AI本身其實(shí)根本理解不了自己“畫”的內(nèi)容。

如今AI生成圖片隨處可見，利用AI造假牟利的行為也愈發(fā)頻繁。

比如，用“AI修圖”把網(wǎng)購商品照改成損壞或腐爛的樣子騙取退款的新聞，現(xiàn)在已屢見不鮮。

這或許是網(wǎng)傳“AI圖片造假”最知名的段子

除此之外，另一種常見手段是通過AI生成圖片偽造不存在的事件、編造未發(fā)布的產(chǎn)品，再當(dāng)作“獨(dú)家”進(jìn)行病毒式營銷和引流。

甚至在一些更離譜的案例中，還出現(xiàn)用AI生成的“照片”作偽證、拿AI生成的產(chǎn)品圖向管理部門申報(bào)的情況。

顯然，AI生成圖片已被濫用。從經(jīng)驗(yàn)來看，除非像三易生活這樣對(duì)相關(guān)領(lǐng)域產(chǎn)品有深入了解，否則普通消費(fèi)者往往難辨真假，很容易被這些AI生成圖片欺騙。

消費(fèi)者該如何保護(hù)自己？

有人可能會(huì)想，自己認(rèn)不出AI生成的圖，讓AI去辨認(rèn)不行嗎？畢竟現(xiàn)在AI技術(shù)這么發(fā)達(dá)，AI難道認(rèn)不出AI造假的圖片？

事實(shí)上，最新實(shí)驗(yàn)結(jié)果顯示，只要造假者注意幾個(gè)“關(guān)鍵步驟”，AI偽造的圖片幾乎能騙過其他AI。這個(gè)實(shí)驗(yàn)的步驟及特殊情況，讓我們對(duì)現(xiàn)階段AI“識(shí)圖”原理和辨?zhèn)畏绞疆a(chǎn)生了很大質(zhì)疑。

測(cè)試開始時(shí)，實(shí)驗(yàn)設(shè)計(jì)者先選用谷歌的圖像生成AI“Nano Banana Pro”，讓它生成一幅現(xiàn)實(shí)風(fēng)格但內(nèi)容略帶荒誕的圖像：“一位女子手持香蕉指向天空，背景是典型城市景觀，行人漠不關(guān)心。”

實(shí)驗(yàn)設(shè)計(jì)者稱，選用谷歌的圖像生成AI是因?yàn)樗白銐蛐隆?，那些只記錄老舊模型特征的AI圖像識(shí)別服務(wù)，可能“認(rèn)不出”Nano Banana Pro在圖像代碼層面留下的印記（即AI隱形水?。?/p>

同時(shí)，實(shí)驗(yàn)者一方面沒抹除AI生成圖片右下角的可見LOGO，另一方面故意選略帶荒誕題材的圖像，也是想考驗(yàn)“識(shí)別AI”能否僅從圖像內(nèi)涵判斷其是否“真實(shí)”。

水印仍在，AI識(shí)別工具卻“看不清”了

實(shí)驗(yàn)者先對(duì)這張AI生成圖片進(jìn)行格式轉(zhuǎn)換（目的是抹除原始數(shù)據(jù)，避免直接“露餡”），再交給6個(gè)不同的“AI圖片檢測(cè)工具”檢測(cè)“AI生成率”。結(jié)果，有兩個(gè)工具在第一個(gè)環(huán)節(jié)就直接出錯(cuò)了。

只要AI生圖用的模型足夠新，就能騙過不少檢測(cè)平臺(tái)

要知道此時(shí)圖片右下角的可見水印還在，這說明并非所有AI圖片檢測(cè)平臺(tái)都會(huì)“注意到”AI生成水印的存在，它們判斷圖片是否“AI生成”可能靠其他技術(shù)手段。

去掉可見水?。鹤饔糜邢?/strong>

接著，實(shí)驗(yàn)者用圖像編輯工具（實(shí)際也是基于AI算法）去掉測(cè)試圖片右下角可見的AI生成Logo，再次交給這些檢測(cè)平臺(tái)。

肉眼可見的“AI水印”對(duì)檢測(cè)算法干擾不大

這個(gè)修改有一點(diǎn)作用，之前能“認(rèn)出”這是AI生成圖片的一個(gè)平臺(tái)，現(xiàn)在報(bào)告圖片是“非AI生成的”，但超半數(shù)檢測(cè)工具仍能正確判斷這是“AI圖片”。也就是說，雖然現(xiàn)在很多AI生成圖片工具（尤其是帶AI圖像編輯功能的手機(jī)）會(huì)為“討好用戶”允許關(guān)閉可見圖像水印，但這種“給人看”的水印，對(duì)AI檢測(cè)工具的判斷影響不大。

人為加瑕疵，是騙過AI檢測(cè)的關(guān)鍵

最后實(shí)驗(yàn)人員猜測(cè)，AI圖片檢測(cè)的關(guān)鍵機(jī)制可能是檢測(cè)圖片中的“瑕疵”程度。因?yàn)檎鎸?shí)拍攝的照片通常有各種瑕疵，比如邊緣色差、抖動(dòng)導(dǎo)致的細(xì)節(jié)重影、曝光不足的噪點(diǎn)等。而AI生成的圖片相對(duì)過于“完美”，容易在檢測(cè)工具前暴露。

經(jīng)人為后期修改的圖片，添加了更多“瑕疵”卻未改內(nèi)容

為此，實(shí)驗(yàn)人員通過圖像編輯軟件給這張AI生成圖片添加人為噪點(diǎn)、邊緣偽影，增大對(duì)比度讓圖片更暗，偏離一般“AI作圖”常見的明亮風(fēng)格。

結(jié)果，經(jīng)這些修改的圖片徹底“瞞過”了所有AI檢測(cè)平臺(tái)。這說明上述圖像特征確實(shí)可能是現(xiàn)階段各“檢測(cè)AI”真正關(guān)注的重點(diǎn)。只要“造假者”稍加留意，在AI生成圖片后手動(dòng)修改，就能大幅降低圖片被其他AI“識(shí)破”的幾率。

這不是造假者的勝利，而是AI的局限

可能有人覺得這是在教人造假，其實(shí)不然。實(shí)驗(yàn)者的目的只是證明“AI檢測(cè)”識(shí)別AI生成圖片的無效性，并非教大家讓“AI圖片”更逼真。

關(guān)鍵在于“一名女子神情肅穆舉著香蕉站在馬路中央”這個(gè)場(chǎng)景本身就“反常識(shí)”。對(duì)正常人類來說，哪怕沒有右下角的可見AI水印，通常也能判斷“圖片里的事大概不存在”。

AI圖像檢測(cè)工具的失敗，實(shí)則證明“AI識(shí)圖”脫離現(xiàn)實(shí)世界

“檢測(cè)AI”做不到這一點(diǎn)，恰恰說明現(xiàn)有AI雖能“畫”出以假亂真的荒誕圖片，卻難以真正“看懂”其荒誕性。它們只能糾結(jié)于畫面平滑度、噪點(diǎn)數(shù)量等“技術(shù)性”細(xì)節(jié)，無法真正理解內(nèi)涵，更做不到結(jié)合現(xiàn)實(shí)判斷畫面的“合理程度”。

這才是實(shí)驗(yàn)揭露的事實(shí)：AI本身根本理解不了自己“畫了什么”，它對(duì)現(xiàn)實(shí)世界的理解能力可能遠(yuǎn)低于我們的預(yù)期。

【本文圖片來自網(wǎng)絡(luò)】

本文來自微信公眾號(hào)“三易生活”（ID：IT-3eLife），作者：三易菌，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com