AI本身其實根本就理解不了自己“在畫什么”。

眾所周知，如今各種各樣的AI生成圖片已經(jīng)隨處可見，因此利用AI對圖片造假，從而獲取不當利益的行為也變得越來越多。

比如，拿“AI P圖”將網(wǎng)購的商品照片修改成損壞或腐爛的樣式，從而騙取退款的報道，現(xiàn)在就經(jīng)常可以見到。

這可能是網(wǎng)傳“AI圖片造假”最有名的段子

除此之外，另一種常見的手段是通過AI生成圖片，來偽造并不存在的事件、或是編造并未發(fā)布的產(chǎn)品，然后當作“獨家”來進行病毒式營銷和引流。

甚至在一些更為離譜的案例中，我們還看到了拿AI生成的“照片”作偽證，甚至是拿AI生成的產(chǎn)品圖向管理部門申報的情況。

很顯然，AI生成圖片已經(jīng)開始被濫用。從我們的經(jīng)驗來看，除非是像我們?nèi)咨钸@樣，本身就對相應領域（的產(chǎn)品）有深入了解，否則普通消費者往往會難辨真假，很容易被這些AI生成圖片騙到。

那么站在消費者的立場，大家該怎么保護自己呢？

可能有的人立刻會想，自己認不出AI生成的圖，讓AI去辨認還不行嗎，畢竟現(xiàn)在AI技術(shù)既然已經(jīng)那么發(fā)達，那AI難道認不出AI造假的圖片嗎？

事實上，根據(jù)最新的一項實驗結(jié)果顯示，只要造假者注意幾個“關鍵步驟”，那么AI偽造的圖片就幾乎不可能被其他AI“認出來”。而這個實驗的步驟以及所提及的一些特殊情況，讓我們對于現(xiàn)階段AI“識圖”的原理，以及它辨識圖片是否偽造的方式，產(chǎn)生了很大的質(zhì)疑。

在測試一開始，此次實驗的設計者首先選擇了谷歌的圖像生成AI“Nano Banana Pro”，并用它畫了一幅既有現(xiàn)實風格，但具體內(nèi)容又略帶荒誕的圖像，即“一位女子手持香蕉指向天空。背景是典型的城市景觀，行人漠不關心?！?/p>

根據(jù)實驗設計者的說法，之所以使用谷歌的圖像生成AI，是因為它“足夠新”。這樣一來，那些只記錄了老舊模型特征的AI圖像識別服務，可能就會“認不出”Nano Banana Pro在圖像代碼層面留下的印記（即AI隱形水?。?。

但與此同時，實驗者一方面并未抹除AI生成圖片右下角的可見LOGO，另一方面，他們故意選擇了一個略帶荒誕題材的圖像，也是有意想要考驗這些“識別AI”，能不能僅從圖像的內(nèi)涵來判斷它是否“真實”。

水印還在，但AI識別工具卻有些“認不出”了

實驗者首先對這張AI生成圖片進行了格式轉(zhuǎn)換（這一步是為了抹除其原始數(shù)據(jù)，避免直接“露餡”），然后把它給了6個不同的“AI圖片檢測工具”，來檢測它的“AI生成率”。結(jié)果，有兩個工具在第一個環(huán)節(jié)就直接翻了車。

只要AI生圖用的模型足夠新，它就已經(jīng)可以騙過不少懶惰的檢測平臺了

要知道此時圖片右下角的可見水印還保留著。這就說明，不是所有的AI圖片檢測平臺都會“注意到”AI生成水印的存在，它們判斷一張圖片是否“AI生成”，靠的可能是其他技術(shù)手段。

那么去掉可見水印呢？有點作用，但影響不大

接下來，實驗者使用圖像編輯工具（實際上也是基于AI算法），去掉了測試圖片右下角可見的AI生成Logo，再一次將它交給這些檢測平臺。

肉眼可見的“AI水印”，對于檢測算法的干擾反而不大

這個修改產(chǎn)生了一點作用，之前能“認出”這是AI生成圖片的其中一個平臺，現(xiàn)在就報告圖片是“非AI生成的”了，但超過半數(shù)的檢測工具依然可以正確判斷這是一張“AI圖片”。換句話說，雖然現(xiàn)如今很多AI生成圖片工具（特別是那些帶有AI圖像編輯功能的手機）都會出于“討好用戶”的目的，允許關閉可見的圖像水印。但這種“給人看”的水印，反倒并不太影響AI檢測工具的判斷。

人為增加瑕疵，是徹底騙過AI檢測的關鍵

最后實驗人員猜測，AI圖片檢測的關鍵機制，可能在于檢測圖片中的“瑕疵”程度。因為真實拍攝的照片通常會帶有各式各樣的瑕疵，比如邊緣部分的色差、抖動導致的細節(jié)重影、曝光不足導致的噪點等等。而AI生成的圖片相比之下就會過于“完美”，從而使其在檢測工具面前暴露。

經(jīng)過人為后期修改的圖片，添加了更多的“瑕疵”、但并未更改內(nèi)容

為此，實驗人員通過圖像編輯軟件，對這張AI生成圖片添加了人為的噪點、邊緣偽影，并增大了圖片的對比度，使得其看起來更暗，更偏離一般“AI作圖”常見的明亮風格。

從結(jié)果來說，經(jīng)過這些修改的圖片徹底“瞞過”了全部的AI檢測平臺。這就說明，上述這些圖像特征，確實可能是現(xiàn)階段各“檢測AI”真正關注的重點。只要“造假者”稍微留心，在通過AI生成圖片時手動略加修改，就能讓圖片被其他AI“識破”的幾率大大降低。

這是造假者的勝利嗎？其實它只是AI的恥辱

可能有的朋友看到我們這么說，會覺得這不是教人學壞嗎？其實不然。請注意，在這起實驗中，實驗者的目的只是想要證明“AI檢測”對于識別AI生成圖片的無效性，并不是在教大家怎么去把“AI圖片”弄得更加以假亂真。

在這個過程中，真正的關鍵其實就在于“一名女子神情肅穆，舉著香蕉站在馬路中央”的這個場景，本身就是“反常識”的。也就是說，對于正常的人類而言，哪怕沒有右下角的可見AI水印，通常也能判斷出“圖片里所反映的事情大概不存在”。

AI圖像檢測工具的失敗，實際上是“AI識圖”脫離現(xiàn)實世界的證明

而“檢測AI”之所以做不到這一點，恰恰說明現(xiàn)有的AI雖然能夠“畫”出以假亂真的荒誕圖片，卻難以真正“看懂”這些圖片的荒誕性。它們只能糾結(jié)于畫面的平滑度、噪點數(shù)量這些“技術(shù)性”細節(jié)，卻無法真正理解內(nèi)涵，進而做不到結(jié)合現(xiàn)實世界去判斷畫面的“合理程度”。

而這才是此次實驗所揭露的事實，即AI本身其實根本就理解不了自己“在畫什么”，它對于現(xiàn)實世界的理解能力，可能遠低于我們的預期。

【本文圖片來自網(wǎng)絡】

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com