本文來(lái)自微信公眾號(hào)：果殼，作者：糕級(jí)凍霧，編輯：沈知涵

AI產(chǎn)物普及后，幫網(wǎng)友鑒別AI制品成了我的一大愛(ài)好。

比如小紅書上有買家疑似用AI偽造產(chǎn)品損壞圖騙“僅退款”，我正分析斷裂處的模糊問(wèn)題，就看到其他帖子甩出國(guó)家反詐中心App的鑒定截圖。

國(guó)家終于出手了！不久前，國(guó)家反詐中心App新增了AI圖像、視頻、文本、人聲音頻的檢測(cè)功能。

如今生成式技術(shù)迭代迅速，AI能生成以假亂真的長(zhǎng)視頻，人物瞳孔光影和皮膚紋理都符合直覺(jué)。

對(duì)互聯(lián)網(wǎng)的不信任并非被害妄想，AI偽造引發(fā)了真實(shí)信任危機(jī)。

對(duì)付技術(shù)的好辦法是用技術(shù)對(duì)抗，今天聊聊生成式內(nèi)容時(shí)代的新防線：隱形水印。

道高一丈

隱形水印是藏在內(nèi)容數(shù)據(jù)底層的標(biāo)識(shí)，比易被抹除的傳統(tǒng)水印更隱蔽。

以DeepMind的SynthID為例，它通過(guò)兩個(gè)深度學(xué)習(xí)模型對(duì)抗訓(xùn)練：嵌入模型藏水印，提取模型找水印，經(jīng)上萬(wàn)次訓(xùn)練后，嵌入模型能藏得更深，提取模型能在壓縮、涂改的數(shù)據(jù)中找痕跡。

不同媒介的數(shù)字內(nèi)容，嵌入水印的方式不同。

·圖片

數(shù)字圖像由像素點(diǎn)構(gòu)成，AI繪圖時(shí)計(jì)算像素顏色分布。嵌入模型會(huì)做微小調(diào)整，比如讓特定區(qū)域紅色像素亮度暗0.01%并形成規(guī)律，肉眼難辨但計(jì)算機(jī)可識(shí)別。

提取模型魯棒性強(qiáng)，圖片經(jīng)壓縮、裁剪、加濾鏡后，只要?dú)埩粝袼刈銐?，就能檢測(cè)到水印。我用Gemini生成合照，經(jīng)翻拍、加濾鏡、微信壓縮后，仍能被識(shí)別。

·視頻

視頻多了時(shí)間維度，簡(jiǎn)單的嵌入方式是給每一幀打隱形水印，像細(xì)胞提取DNA一樣，提取模型抗剪輯，從1秒畫面就能提取水印。

·音頻

音頻水印參照生理規(guī)律，人類聽(tīng)覺(jué)有范圍限制，且存在聽(tīng)覺(jué)掩蔽效應(yīng)。Meta的AudioSeal嵌入聽(tīng)覺(jué)外的隱形頻段，SynthID則將聲音波形轉(zhuǎn)成頻譜圖加密，再轉(zhuǎn)回波形，不影響聽(tīng)覺(jué)且抗壓縮、倍速。

·文本

文本是離散的，不能像像素微調(diào)。主流解法是操縱AI生成詞匯的概率分布，大語(yǔ)言模型是“詞匯接龍”機(jī)器，SynthID-Text用Tournament Sampling算法，給候選詞分配分?jǐn)?shù)，兩兩PK選結(jié)果，解碼器用密鑰計(jì)算可識(shí)別AI痕跡，但要平衡生成質(zhì)量和水印性能。

沒(méi)有攻不破的盾

隱形水印并非絕對(duì)安全，翻拍、高幅度重繪、重水印攻擊都可能洗掉水印。開(kāi)源環(huán)境下，修改模型也能繞過(guò)水印，就像病毒與殺毒的對(duì)抗。業(yè)界需要統(tǒng)一標(biāo)準(zhǔn)，比如C2PA技術(shù)，OpenAI和Meta已在推進(jìn)，但元數(shù)據(jù)不如水印深刻。

一種“確權(quán)”手段

2024年OpenAI就開(kāi)發(fā)了文本隱形水印，但因擔(dān)心影響用戶體驗(yàn)未大規(guī)模部署。隱形水印可保護(hù)人類版權(quán)，比易刪改的元數(shù)據(jù)更可靠。徠卡、索尼在高端相機(jī)中嵌入硬件水印，未來(lái)無(wú)硬件水印的文件可能被默認(rèn)是AI生成。還有人主張用生物特征做水印，打通結(jié)算系統(tǒng)實(shí)現(xiàn)自動(dòng)溯源和微支付。SynthID已能溯源，YouTube的Dream Screen功能會(huì)自動(dòng)打合規(guī)標(biāo)簽，規(guī)范創(chuàng)作流程。

AIGC摧毀了“眼見(jiàn)為實(shí)”，我們不得不依賴技術(shù)對(duì)抗虛假，隱形水印是重要防線。