MIT團隊研發AI對抗軟件，能阻止Stable Diffusion編輯你的照片

對於我們經常發的自拍照片，目前沒有什麼方法能阻止人們使用強大的生成式人工智能系統來獲取和編輯它。更糟糕的是，由於這些系統的複雜性，我們可能難以證明生成的圖像是假的。

好消息是，麻省理工學院（MIT）的研究人員發明了一種新工具，可以阻止這種情況。

這款名爲 PhotoGuard 的工具就像一個保護罩，它能以人眼看不見的微小方式改變照片，可以防止照片被修改。如果有人試圖使用基於生成式人工智能模型（如 Stable Diffusion）的圖片編輯應用程序來操縱被 PhotoGuard“防護”的圖像，生成結果將變得不現實或扭曲。

現在，“任何人都可以拿走我們的照片，隨心所欲地修改它，讓我們看起來很糟糕，然後勒索我們，”參與這項研究的 MIT 博士生哈迪·薩爾曼（Hadi Salman）說。這項研究是在本週的國際機器學習會議上提出的。

（來源：MIT CSAIL）

PhotoGuard“試圖解決我們的照片被這些模型惡意操縱的問題，”薩爾曼說。例如，該工具可以幫助防止女性的自拍被製作成未經同意的深度僞造色情內容。

找到檢測和阻止人工智能操縱的方法從未像現在這樣迫切，因爲生成式人工智能工具可以讓篡改圖片以往任何時候都更快、更容易。

、和 等領先的人工智能公司在與白宮達成的自願承諾中表示，它們將承諾開發此類方法，以防止欺詐和欺騙。PhotoGuard 是另一種技術“水印”的補充技術： PhotoGuard 旨在阻止人們使用人工智能工具篡改圖像，而水印則使用了類似的不可見信號，允許人們從人工智能生成的內容中檢測它。

此次 MIT 團隊使用了兩種不同的技術，來阻止圖片被開源圖像生成模型 Stable Diffusion 所編輯或篡改。

第一種技術被稱爲編碼器攻擊。PhotoGuard 將難以察覺的信號添加到圖像中，使人工智能模型將其解釋爲其他東西。例如，這些信號可能會導致人工智能將美國電視主持人“崔娃”特雷弗·諾亞（）的圖像分類爲純灰色塊。因此，任何試圖使用 Stable Diffusion 編輯“崔娃”的結果都會看起來不夠真實。

第二種更有效的技術被稱爲擴散攻擊（diffusion attack）。它破壞了人工智能模型生成圖像的方式，本質上是通過用秘密信號編碼來改變模型處理圖像的方式。

通過將這些信號添加到“崔娃”的圖像中，研究小組成功地操縱了擴散模型，使其忽略了提示，並生成了研究人員想要的圖像。因此，任何人工智能編輯的“崔娃”圖像看起來都是灰色的。

美國芝加哥大學計算機科學教授本·趙（）說，這項工作“很好地結合了對某種東西的 迫切需求和現在可以做的事情”。他開發了一種類似的名爲 Glaze 的保護方法，，藝術家可以使用它來防止他們的作品被收集到人工智能模型中。

的研究科學家艾米麗·溫格（）也參與了 Glaze 的研究，並開發了阻止面部識別的方法。她表示，PhotoGuard 等工具讓惡意使用人工智能變得更加困難，從而改變了攻擊者的經濟效益和動機。

“門檻越高，願意或能夠克服它的人就越少，”說。

說，一個挑戰是如何將這種技術轉移到其他模型上。研究人員已經在網上發佈了一個演示，允許人們對自己的照片進行保護，但目前它只能對 Stable Diffusion 模型生效。

美國馬里蘭大學的博士生瓦萊裡婭·切列帕諾娃（Valeriia Cherepanova）開發了保護社交媒體用戶免受面部識別的技術，她說雖然 PhotoGuard 可能會讓篡改新照片變得更加困難，但它並不能提供針對深度僞造的完全保護，因爲用戶的舊照片仍可能被濫用，而且還有其他方法可以製造深度僞造照片。

MIT 教授亞歷山大·馬德里（）參與了這項研究。他說，理論上人們可以在將照片上傳到網上之前對其進行保護。但他補充說，對科技公司來說，更有效的方法是將其自動添加到人們上傳到平臺上的圖片中。

然而，這是一場“軍備競賽”。雖然科技公司承諾改善保護方法，但它們仍在以驚人的速度開發新的、更好的人工智能模型，而新模型可能會攻破任何新的保護措施。

薩爾曼說，最好的情況是，開發人工智能模型的公司也能爲人們提供一種方法，在每次人工智能模型更新之後，都可以讓他們的圖像變得不受其最新模型影響。

生成式人工智能和深度僞造專家亨利·艾德爾（）表示，與試圖使用不可靠的方法檢測人工智能篡改結果相比，從源頭上保護圖像不受人工智能操縱是一個更可行的選擇。

他說，任何社交媒體平臺或人工智能公司“都需要考慮保護用戶免受（未經同意的）色情內容的攻擊，或者他們的臉被克隆用來創建誹謗內容。”

作者簡介：梅麗莎·海基萊（Melissa Heikkilä）是《麻省理工科技評論》的資深記者，她着重報道人工智能及其如何改變我們的社會。此前，她曾在 POLITICO 撰寫有關人工智能政策和政治的文章。她還曾在《經濟學人》工作，並曾擔任新聞主播。

支持：Ren

運營/排版：何晨龍

由 DeepTech 攜手《麻省理工科技評論》重磅推出的《科技之巔：全球突破性技術創新與未來趨勢（20 週年珍藏版）》已開售！點擊下方海報可購買圖書！！