AI新貴上位記：圖網絡是怎麼火起來的？

2023-04-06 16:28:28 2

導讀： 俗話說，前端能打看BERT，底層深度看圖網絡。其實並沒有這句俗話……但是BERT和圖網絡在今天的AI界並駕齊驅，堪稱被討論最多的兩種技術，這一點是毫無疑問的。

誰是2018年AI圈最靚的仔？

這頂「桂冠」只有兩位候選人：俗話說，前端能打看BERT，底層深度看圖網絡。其實並沒有這句俗話……但是BERT和圖網絡在今天的AI界並駕齊驅，堪稱被討論最多的兩種技術，這一點是毫無疑問的。谷歌的BERT作為一種算法模型，在語言任務上展現出了不講道理的應用效果，熠熠奪目自然很容易理解。

但另一個最近大家聽到很多次的詞，圖網絡，可能就沒那麼容易理解了。相比某種算法，圖網絡更像是一個學術思考下若干種技術解決思路的集合，非常抽象和底層。它的價值到底在哪？為什麼甚至能被抬高到「深度學習的救星」這種程度？我們發現，目前關於圖網絡的解釋，大多都是從論文出發。非技術背景的讀者可能會看得有點暈。所以這裡想用一些「大白話」，來描述一下：風口浪尖上的圖網絡，究竟有什麼秘密？

想讓自己在AI圈潮酷起來嗎？聊Graph和GNN吧

所謂圖網絡，並不是指有圖片的網站……而是指基於圖（Graph）數據進行工作的神經網絡。

Graph，翻譯成「圖」，或者「圖譜」。這是一個數學概念，指由頂點（nodes）和邊（edges）構成的一種數學關係。後來這個概念引申到了計算機科學中，成為了一種重要的數據形式，用來表示單元間相互有聯繫的數據網絡。此外，這個概念還引申到了生物學、社會科學和歷史學等無數學科，甚至變成了我們生活中的常見概念。在警匪片裡，警局或者偵探辦公室的牆上，往往掛著罪犯的關係網絡圖，這大概是我們生活中最常見的Graph。

回到計算機科學領域，圖數據和基於圖的分析，廣泛應用於各種分類、鏈路、聚類任務裡。人工智慧領域有個重要的分支，叫做知識圖譜。基本邏輯就是將知識進行Graph化，從而在我們尋找知識時，可以依據圖譜關係進行追蹤和定位。比如我們在搜尋引擎中搜某個名人時，相關推薦會跳出來跟這個人字面意義上無關的其他人。這就是知識圖譜在起作用。

那麼圖網絡是怎麼搞出來的呢？

大家可能知道這樣一個「唱衰AI」的小故事：用機器視覺技術，AI今天可以很輕鬆識別出來一張照片上的幾張人臉。但它無法像真人一樣，一眼看出來圖上是朋友、戀人還是家庭聚會。換句話說，一般意義上AI無法獲得和增強用人類常識去進行邏輯推理的能力。很多人以此判斷，今天的AI並不怎麼智能。

AI科學家們琢磨了一下，表示這事兒有辦法搞定。如果把圖/圖譜作為AI的一部分，將深度學習帶來的學習能力，和圖譜代表的邏輯關係結合起來，是不是就好很多？

事實上，Graph+Deeplearning並不是一個全新概念。最早在2009年，就有研究提出了二者的結合。近幾年這個領域陸續在有研究出來。對於這個組合產物，學術界有人稱之為圖卷積網絡（GCN），也有人稱呼其為圖神經網絡（GNN）或者圖網絡（GN，Graph Networks），其技術內涵和命名思路也各不相同。這裡暫且使用圖網絡這個籠統稱呼。

圖網絡作為一種新的AI研究思路，之所以能夠在2018年被點燃，很大程度還是號稱AI扛把子的DeepMind的功勞。在火種拋出、全球跟進以及反覆爭論之後，圖網絡變成了AI學術圈最靚仔的那個關鍵詞。今天大有一種，聊深度學習不說圖網絡就很low的感覺……

從識別小能手到推理專家：AI新貴求職記

有種論調是這麼說的：深度學習已死，圖網絡才是未來。這句話怎麼琢磨都有問題。因為從圖網絡在去年被「翻新」出來那一刻，它在本質上還是對流行的多層神經網絡的一種補充。讓我們來打個比方，看一下跟傳統深度學習相比，圖網絡應該是如何工作的。

舉個例子，假如我們想讓教育我們的孩子，讓他認識新來的鄰居一家人。我們應該怎麼辦呢？可以選擇給他講，隔壁新來了某個小朋友，他爸爸是誰媽媽是誰。但是這樣不直觀，孩子很容易記不住。而更快的方式或許是拿著照片給他看，告訴他照片上的人都是什麼關係。而在這個工作之前，其實我們已經完成了一個先覺條件：我們已經告訴過孩子，爸爸媽媽爺爺奶奶這些稱呼，分別指代的是什麼意思。他理解這些「邊」，然後再代入新鄰居一家人具體的樣貌性格交談作為「頂點」，最終構成了對鄰居一家這個「圖」的網絡化認識。

而我們在用深度學習教導AI時，往往是省略掉第一步。直接給出大量照片和語音文字資料進行訓練，強迫AI去「記住」這一家人的關係。然而在AI缺乏對家庭關係的基本常識情況下，它到底能不能記住，是怎麼記住的，會不會出現偏差，其實我們都是不知道的。

某種程度上，這就是深度學習的黑箱性來源之一。

所以圖網絡的思路是，首先讓AI構建一個「圖」數據，先理解爸爸媽媽這一類關係的含義，再去學習具體的家庭數據。這樣AI就可以依靠已經積累的節點間的消息傳遞性，來自己推理下一個要認識的家庭究竟誰是爸爸誰是兒子。這也就意味著，圖網絡某種程度上有了自己推理的能力。如果將這種能力推而廣之，AI就將可能在非常複雜的聯繫和推理中完成智能工作。

前面說了，這個領域的工作其實一直沒有停止。但是之所以沒有廣泛流行，一方面是因為這個領域相對小眾，缺少重磅研究來引發大家的關注；另一方面也是因為看不見摸不著，缺少開源模型來檢驗理論的正誤。

去年6月，DeepMind聯合谷歌大腦、麻省理工等機構的27位學者，共同發表了關於圖網絡的論文《Relational inductive biases, deep learning, and graph networks.》，接著開源了相關的算法包GraphNet。這篇文章中，DeepMind不僅提出了新的算法模型，希望能用圖網絡實現端到端的學習；同時也總結歸納了此前圖網絡各個流派的研究方法，並將其在新算法上進行了融合。

在這個有點承上啟下意味的研究出來後，大量關於圖網絡的綜述、應用檢驗，以及新算法的探討開始在學術界萌生。隨著全球AI圈的共同發力，這門AI技術新貴正在嘗試走向臺前。