明星智能換臉一（一鍵換臉明星被參與）

2023-06-11 04:08:26 3

BBC記錄片一向製作精良，受到很多人的追捧。但5日BBC承認在2011年出品的《人類星球》（Human Planet）中，偽造了西巴布亞居民在35米高的樹屋上居住的場景，令不少粉絲感到心碎。面對類似事件的發生，包括肆無忌憚地抄襲類節目、為了達到播放效果而違背事實進行的視頻造假，人們是否越來越對自己所看到的東西產生懷疑？今年，更有以假亂真的deepfake視頻出現，他們利用科技對視頻畫面進行「換臉」，將明星變成了色情片的主人公。

deepfake視頻是基於FakeApp程序創建的、一種通過人工智慧軟體製作、效果極其逼真的假視頻。它將女星的面孔與色情演員的身體合成，合成之後的效果不可思議，如果你不知道真相，很可能會認為這是一起「豔照門」。《權力的遊戲》《哈利波特》《神奇女俠》的女演員，甚至美國前第一夫人米歇爾·歐巴馬（Michelle Obama）都曾成為假視頻主角。

▲以假亂真的「蓋爾·加朵」。

自1月份在Reddit發布之後，通過谷歌開源軟體建立的FakeApp下載量已經超過12萬次。deepfake視頻明顯是數字媒體精妙處理的最新結晶，也很容易運用到各種惡搞當中。不難想像，這種技術可用於抹黑政客、偽造報復性色情內容，甚至陷害他人入罪。立法者開始擔心，這種視頻可能被用於政治陰謀和虛假宣傳。

即使是在像Reddit這樣的道德鬆懈的網站上，deepfake視頻也引起了公憤。當有人開始用FakeApp製作色情視頻並散布後，Pornhub、Twitter等網站都在第一時間屏蔽了這些視頻。Reddit也關閉了幾個deepfake群組，其中一個群組擁有近 10 萬名成員。但是潘多拉的盒子已經被打開，即使群組被關閉，很多成員還在私下舉辦分享會，聚在一起交流視頻編輯技巧並展示自己新作的假視頻。

即使如此，仍有Reddit用戶為deepfake視頻鳴不平，他們認為媒體誇大了它的潛在危害。有一些用戶把他們的視頻轉移到其他平臺上，還有一些人出於道德對這種技術的出現深感不安。但視頻的製作仍未停下。一名用戶認為「這簡直可以拍成《黑鏡》了」，如果將B的臉以無縫、不可追蹤的方式疊加在A的臉上，那麼A的裸照是否直接成為了B的裸照？在更廣泛的意義上來說，在網際網路上，表象與現實有區別嗎？

《紐約時報》記者Kevin Roose在Reddit的deepfake社區潛伏几個星期之後，決定用自己的臉做個試驗製作一些非色情的視頻。他下載了FakeApp之後找到了《紐約時報》研發部門的同事馬克·麥基格（Mark McKeague）和Reddit上找到的一個暱稱是Derpfakes的deepfake視頻製作者幫忙。（Derpfakes製作的視頻多以幽默類為主。）

▲測試正式開始。首先，這個小團隊給Kevin Roose的面部拍了幾百張照片，其中包括各種角度的奇怪表情。

▲經過長達8小時的工作，Kevin Roose將自己的臉覆蓋在了瑞恩·高斯林（Ryan Gosling）的臉上。視頻有些模糊，高斯林的臉會偶爾閃現，基本上能看出來是合成視頻。

▲隨後，他們又嘗試覆蓋了《侏羅紀世界》主演克裡斯·帕拉特（Chris Pratt）的面部。為了此次測試，他們使用了更大的數據集，並讓模型徹夜運行，取得了較好的效果。

▲幾天後，Derpfakes發給了Kevin Roose一個deepfake視頻——一個將Kevin Roose與演員傑克·吉倫哈爾（Jake Gyllenhaal）面部結合的視頻，效果十分逼真，幾乎難以辨認。

▲吉米·坎摩爾（Jimmy Kimmel）和列維·施瑞博爾（Liev Schreiber）也成為了他們的素材之一。

整個實驗歷時了3天，Kevin Roose在Google雲計算平臺上花費了85.96美元，對於想要搞些大新聞的人而言，這確實是小數目。最終，他得出一個結論：製作一個deepfake視頻並非輕而易舉，但也不像火箭技術那樣難以鑽研。隨後，Kevin Roose聯繫了FakeApp的開發者，想知道他開發這個軟體的初衷，是否真的是為了讓大家聚在一起製作視頻作品？一名男子回信表示，這本是一個創造性的實驗，但是事件發展至此他感到很懊悔。他也不支持通過FakeApp製作非自願的色情作品和不良內容，但他認為不應當對技術本身進行譴責，因為技術的誕生本就意味著它會被運用於多種目的，無論好壞。

從這件事來說，人工智慧的發展與運用已經超出了一些人的想像。一張臉換成另一張臉，這與Snapchat等軟體中的低級卻富有趣味性的換臉技術相比，有著完全不一樣的現實意義與影響，《大西洋月刊》認為這簡直就是網際網路時代發明的最殘忍、最具侵略性的身份盜竊形式之一。如果要說其他形式，那又要提到俄羅斯水軍工廠在社交媒體上洗腦網友、Facebook數據洩露事件。網際網路上總是蘊藏著後現代地獄的種子，在這個讓「身份」變得可怕的地方，越來越多的粗俗和混亂事件滋生。

目前，大多數平臺都依賴於關鍵詞過濾及用戶的舉報來屏蔽內容不良的deepfake視頻。但GIF動圖託管公司Gfycat開始利用人工智慧識別假視頻，一般情況下，他們在識別到deepfake視頻後會重新上傳更好的版本或是直接將視頻主角的臉部覆蓋。但是，人們仍舊擔心deepfake視頻的創作者學會如何規避，這可能只是時間問題。

《連線》雜誌還提出區塊鏈或許也能用於打擊假視頻，畢竟條形碼一開始也並非運用於商品包裝。區塊鏈的基本原理是分散式公共帳本的概念，並不僅限於被狂熱的無政府主義者所用。由於區塊鏈無法存儲大量流媒體數據，德克薩斯州的Factom公司正基於現有的比特幣基礎設施打造一個平臺，計劃用簡化的方式記錄某個數據或文件在特定時間的存在證據。這意味著，實際操作中來自某個攝像機的10分鐘視頻數據塊會存儲在Factom數據結構中。而基於Factom的分析方法，能保證這一時間段的視頻數據的「真實性」。