ai「換臉」（AI換臉術都這麼強了）

2023-11-30 19:34:28 6

又一個現象級的網際網路產品誕生了——8月30日晚間開始，一個名為「ZAO」的AI換臉APP忽然爆火，在朋友圈裡刷屏！

用戶只需要在APP中上傳一張自己的照片，就能將自己的臉替換到周潤發、白展堂、瑪麗蓮夢露、紫薇等明星的頭上，而且臉融合效果非常棒，幾乎可以以假亂真，你可以和小李子一樣叱吒銀幕，出現在經典鏡頭裡，也可以和心中的「男神」「女神」同框飆戲……

在興奮了一陣之後，不少人覺得哪裡不對勁兒了：這麼強大的「換臉術」會不會被濫用？比如，自己的臉被換到色情視頻的主角頭上，那真是跳到黃河裡都洗不清了。或者，有犯罪分子利用「換臉」技術在視頻裡，向家屬實施詐騙、敲詐……如此完美的換臉技術，簡直成了敲詐勒索、毀人清白的利器。

應該看到，這款APP也採取了措施防止換臉被濫用，對用戶運用了一般只有金融支付APP才有的「實臉認證」，用戶在鏡頭前要按要求眨眼、扭頭，在系統判斷你上傳的這張照片就是你本人之後，才能進行下一步操作，確保你沒有拿別人來換臉。

但是，這種換臉APP搞的「實臉認證」，形成了一個悖論：為了防止頭像被濫用，我們在使用這款APP之前要交出自己更多的信息，特別是臉部信息。擔心隱私被濫用的我們，被迫將更多的隱私交給了APP……誰來監管APP本身？

APP已經給自己準備好了「甩鍋條款」，有心的網友發現「ZAO」的用戶協議當中，有「您同意或確保肖像權利人同意授予『ZAO』及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利」之類霸王條款味道十足的條款。

這等於用戶在愉快玩耍這款軟體之前，默認自己的換臉視頻要被APP「完全免費、不可撤銷」地「玩耍」。從法律層面上說，「ZAO」已經打定主意充分利用「避風港條款」，一旦有法律糾紛，將會將責任推給用戶上傳。

我們還沒有習慣「刷臉」時代，更顛覆性的「換臉時代」就來了。事實上，很多新技術、新經營模式產生之後，最先嗅到商機的往往是一些灰色產業，這次AI換臉術也可能難逃此劫了。

怎麼保證「ZAO」能保護好這些直接包含用戶手機和面部生物信息的核心信息？怎麼保證這些「臉」不被不正當「開發」？怎麼保證我們的「臉」不被賣掉？

AI換臉術的最早應用就是情色視頻。2017年12月，國外某ID名為「deepfakes」的Reddit論壇用戶首次將自己製作的AI換臉視頻發布在了網絡上，並把情色電影裡的女主角換成了蓋爾•加朵等好萊塢明星。後來在一片聲討聲中，「deepfakes」將這一技術作為開原始碼放到了網上，只要是懂一些相關技術的，都可以得到這些開源程序，並且稍加改造就可以使用。

所以，當下，輿論的炮火也不必全面指向「ZAO」本身，「ZAO」不是什麼高科技，而是基於開源程序的「低科技」商業應用。但更大的問題在於，這麼肉眼難辨、足以亂真的換臉技術居然可能是唾手可得的，甚至可能輕意落到詐騙、色情產業的違法分子手裡，這就不禁讓人倒吸一口冷氣。

人類幾十萬年來，一直把臉作為最重要的生物識別指標，通過「看臉」來區別你、我、他，然而這個最明確的邊界卻模糊了。法律有沒有做好準備？行政管理有沒有做好準備？人心有沒有做好準備？

「黑鏡社會」正在降臨，相關法律和倫理規範、技術規範必須同步出臺，這不是杞人憂天。

(來源:澎湃新聞)