Facebook開發(fā)了一種檢測(cè)和歸因深度偽造的方法

Deepfakes 已經(jīng)存在一段時(shí)間了，但最近它們變得如此逼真，以至于很難從合法視頻中分辨出 Deepfake。對(duì)于那些可能不熟悉的人來(lái)說，deepfake 會(huì)利用名人的臉孔和聲音，制作一段視頻，讓該人說或做他們從未真正做過的事情。在選舉期間使用 Deepfakes 時(shí)，對(duì)許多人來(lái)說最令人擔(dān)憂，因?yàn)樗鼈兛梢酝ㄟ^讓候選人看起來(lái)做過或說過他們從未真正做過的事情來(lái)影響選民。

Facebook宣布已與密歇根州立大學(xué) (MSU) 的研究人員合作開發(fā)一種檢測(cè)和處理深度偽造的方法。Facebook 表示，這項(xiàng)新技術(shù)依賴于逆向工程，逆向工程從單個(gè) AI 生成的圖像反向工作，以發(fā)現(xiàn)用于生成它的生成模型。深度偽造的大部分重點(diǎn)是檢測(cè)以確定圖像是真實(shí)的還是制造的。

Facebook 表示，除了檢測(cè) Deepfake 之外，研究人員還可以執(zhí)行圖像歸因，確定使用什么特定的生成模型來(lái)生成 Deepfake。然而，圖像歸因的限制因素是大多數(shù)深度偽造是使用在訓(xùn)練期間未見過的模型創(chuàng)建的，并且在圖像歸因期間被簡(jiǎn)單地標(biāo)記為由未知模型創(chuàng)建。

Facebook 和 MSU 的研究人員通過幫助根據(jù)其產(chǎn)生的深度偽造來(lái)推斷有關(guān)特定生成模型的信息，進(jìn)一步確定了圖像歸因。這項(xiàng)研究標(biāo)志著第一次有可能在沒有任何特定模型的先驗(yàn)知識(shí)的情況下識(shí)別用于創(chuàng)建 deepfake 的模型的屬性。

新的模型解析技術(shù)使研究人員能夠獲得有關(guān)用于創(chuàng)建 deepfake 的模型的更多信息，并且在現(xiàn)實(shí)世界中特別有用。通常，致力于檢測(cè)深度偽造的研究人員所擁有的唯一信息就是深度偽造本身。檢測(cè)從同一 AR 模型生成的深度偽造的能力對(duì)于發(fā)現(xiàn)依賴于深度偽造的協(xié)同虛假信息或惡意攻擊的實(shí)例非常有用。該系統(tǒng)首先通過指紋估計(jì)網(wǎng)絡(luò)運(yùn)行 deepfake 圖像，揭示生成模型留下的細(xì)節(jié)。

這些指紋是由生成模型創(chuàng)建的圖像上留下的獨(dú)特圖案，可用于識(shí)別圖像的來(lái)源。該團(tuán)隊(duì)將一個(gè)假圖像數(shù)據(jù)集與從 100 個(gè)公開可用的生成模型生成的 100,000 張合成圖像放在一起。測(cè)試結(jié)果表明，新方法的性能優(yōu)于過去的系統(tǒng)，并且該團(tuán)隊(duì)能夠?qū)⒅讣y映射回原始圖像內(nèi)容。