“AI換臉”越來越真，如何防治濫用？技術專家“三招”識破套路

南方財經全媒體記者陳夢璇 卓皙雯 南沙報道

只要一張照片換臉，隨即就能在網絡複製“N”個自己，近日，有關“Deepfake”（深度僞造技術）事件的相關話題涌上熱搜，利用“AI換臉”侵權的情形層出不窮，帶來了較大的網絡安全隱患。

“AI換臉”套路招式多，普通用戶應該如何辨真僞？在9月8日開幕的2024年國家網絡安全宣傳週上，南方財經全媒體記者體驗了一把“秒換臉”的“黑科技”，並就“AI換臉”技術如何合規使用、如何防範“AI換臉”的風險等問題，專訪了中國網絡空間安全協會人工智能安全治理專業委員會委員、天融信科技集團助理總裁張博。

南方財經：“AI換臉”技術的原理是什麼？

張博：“AI換臉”的過程大概分三個步驟，首先是人臉的識別追蹤，使用深度學習算法精準識別視頻當中的人臉圖像，其次是面部特徵的提取，採集圖像中人臉的眼睛、鼻子、嘴巴這些關鍵的面部特徵，把這些特徵與目標的人臉圖像進行匹配，第三是人臉的變化的融合。

目前，“AI換臉”技術比較成熟，只要我們拿到一張人物正臉照片，就可以實現換臉，也能做到實時視頻通話換臉，達到了以假亂真的程度，有的單憑肉眼很難分辨。除了換臉，如果再結合着換背景環境、換音頻，逼真度就更高了。

南方財經：人臉信息被濫用可能帶來哪些危害？

張博：人臉信息被濫用，對於個人來講，輕則損害聲譽，形象被惡搞，如果身份被仿冒，嚴重的話財產會受損。我覺得一個技術的應用是一把“雙刃劍”，既有正面和反面，需要法律法規、制度的落實來引導規範，也需要大家提升安全意識。

南方財經：如何防範“AI換臉”帶來的風險？

張博：有幾個方面。第一是提高自身的安全風險意識，“AI換臉”可能跟交易詐騙場景結合出現，所以在涉及提供個人信息、轉賬匯款等敏感場景時，應保持高度警惕，以防受騙。第二是在接收到視頻通話等視頻信息時，要仔細觀察對方視頻中的光線背景、面部輪廓等細節是否自然，如有必要，可以要求對方進行快速的擡頭、低頭、左右轉頭等動作，觀察畫面是否存在異常，進一步驗證視頻的真實性。第三，在面臨轉賬匯款等金融交易時，可通過其他相對可靠的方式，例如親自打電話等確認對方身份，以確保交易信息無誤，避免因輕信虛假信息而遭受損失。

南方財經：如果發現自己被換臉了該怎麼辦？

張博：首先儘量做好預防的工作，因爲現在通過一張照片換臉的過程非常簡單，有很多工具是開源的。加強對個人信息的防範保護，對人臉信息、指紋信息等敏感信息需求要提高警惕，不要輕易泄露。在技術層面，可以採用人工智能檢測的方式來識別視頻內容是否有僞造，還可以增加身份認證和數字水印，加大僞造難度。另外從安全防護角度來講，需要加強法律法規和相應監管制度的落實和執行，來規範“AI換臉”技術的使用方式和應用場景。在法律方面，需加快相關法律法規及監管措施的制定與落地，如果發現了這個照片被仿冒，需要有一些可以投訴的法律途徑，同時還需進一步加強對公衆的安全意識和防範詐騙的宣傳，提高大家對虛假詐騙信息的認識和警覺性。

南方財經：“AI換臉”技術可在哪些領域合規使用？

張博：現在應用比較廣泛的是在娛樂行業，還有一些商業途徑，例如可以讓你足不出戶就能出一套寫真集，其實這是個好事情。雖然這個技術叫換臉，但其實通過這項技術也可以換成別的，供大家娛樂。只不過它確實是一把“雙刃劍”，如果真的被別有用心的人、不法分子利用可能就會造成很大的危害，所以合規的監管確實很重要。用戶使用“AI換臉”技術儘量選擇大公司、大平臺推出的產品，儘量不通過來路不明的渠道上傳自己的個人信息。