如何用ai技術換臉（一秒識破AI換臉術）

2023-05-07 15:11:32 1

IT時報記者 孫妍

AI換臉術大家或多或少都接觸過，換臉App「ZAO」一夜爆紅，因為上傳一張照片就能變身劇中人，與梁朝偉、劉德華、楊冪等明星同臺飆戲，但也因為洩露人臉信息的風險一夜退敗。不久前，「螞蟻呀嘿」讓靜態照片動起來的特效在短視頻平臺走紅。

這些網紅應用基於深度偽造（Deepfake）技術，雖然也被應用於影視後期、虛擬偶像等場景中，然而這種技術的負面威脅已經被放大。

如何辨別視頻中的人臉是真是假？在2021世界人工智慧大會上出現了一秒識別「AI換臉術」的神器——DeepReal深度偽造內容檢測平臺。

天下武功，唯快不破。30毫秒，就能檢測一幀畫面。一秒鐘，就能認出假臉。

這就是「AI換臉術」的剋星，由清華大學人工智慧研究院孵化企業北京瑞萊智慧科技有限公司（下簡稱RealAI）研發的DeepReal深度偽造內容檢測平臺。

它的檢測準確性有多高？測試結果顯示，DeepReal在學術數據集和ZAO等主流方式生成的網絡數據中，準確率已達99%，遠超Facebook此前舉辦的Deepfake檢測挑戰賽所公布的最好成績。

DeepReal「吃」下的數據已達千萬級，數據集已覆蓋三大類，包括學術深偽數據集、網絡深偽數據集和自研深偽數據集,通過結合貝葉斯學習框架和深度神經網絡來估計模型在預測新樣本時的不確定性。

RealAI副總裁唐家渝認為，未來在網絡虛假內容甄別、人臉資料審核以及影像物證真實性檢驗等場景中，DeepReal都能快速落地應用。

法律層面，2020年，禁止利用信息技術手段偽造的方式侵犯他人的肖像權和聲音等已經寫入了《民法典》，給深度偽造技術下了「緊箍咒」，那麼在技術層面，該如何源源不斷地研發出高質量的檢測、破解工具呢？

制定標準是第一步。

RealAI與國家工信安全中心聯合制定了我國人臉模型算法自身安全相關的第一個標準《信息安全技術人臉比對模型安全技術規範 》，作為第二編寫單位與信通院在工信部網安局指導下聯合編制了《人工智慧安全框架（2020年）》藍皮書。RealAI目前也參與包括機器學習算法安全相關的國家標準以及人工智慧合成音視頻、人工智慧生物特徵識別相關的行業標準等多項標準的制定工作中。

越來越多的機構參與到AI的檢測和標準制定中，「我們正在制定人工智慧的各項標準，今年上海市已批准『公共場所人臉識別分級分類應用規範』地方標準的立項。」上海計算機軟體技術開發中心人工智慧治理研究所執行所長陳敏剛對《IT時報》記者表示，人臉識別將成為AI標準和檢測工具的高地。