阿爾法元的發展趨勢（當機器不再像人類一樣思考）

2023-04-16 20:30:32 1

AlphaGo Zero 3天走完人類千年棋史。

一反常態，近來各種「續篇」的表現出人意料地十分搶眼，尤其是在科技相關領域，這邊廂維倫紐瓦執導的續集科幻電影《銀翼殺手2049》狂攬不亞於前作的讚譽口碑，正當大陸觀眾翹首以盼時，那邊廂另一「續篇」則不失時機地橫空出世，以重磅傳奇之姿提前「轟炸」了吃瓜人類的味蕾。於是，一個武俠故事開始在社交網絡上流傳：從未涉世的白板「少年」，一沒撿過《九陽真經》二沒偷過《闢邪劍譜》，既未身拜名門正派也不師從魔教邪門，憑一人之力，自娛自樂，左右互搏，僅費數日之功，一朝出擊，直接幹翻當世第一高手阿爾法狗，從此名滿天下，無人不知。然而，這傳奇所喚起的不只是一片讚嘆，更引發了大家並不陌生卻愈發深重的憂慮。因為，這「少年」不是別「人」，正是曾震撼人類的阿爾法狗的「續篇」：由企業「深思」（DeepMind）開發的新一代人工智慧阿爾法元（AlphaGo Zero）。

應該說，各大媒體共同構造的這個「武俠傳奇」非常準確地抓住了阿爾法元故事的核心——在發表於《自然》雜誌上的文章《不靠人類知識精通圍棋》（Mastering the game of Go without human knowledge）中，深思團隊公布了阿爾法元超越其「前輩」的技術細節：將此前的走子網絡（Policy Network）與估值網絡（Value Network）合二為一，使用殘差網絡（Residual Network）架構代替卷積網絡（Convolutional Neural Network）架構，省略快速走子（Fast rollout）過程以強化蒙特卡洛樹搜索……正如該文標題所言，新的深度神經網絡與算法使用帶來的最大改變便是阿爾法元不再需要使用人類棋譜與人類圍棋知識來進行訓練，而是從一個完全空白的神經網絡開始，通過自我對弈深度學習，快速精通圍棋技法，並且顯然地比阿爾法狗更加強大，因為「它不再為人類知識所局限」了。

DeepMind聯合創始人兼CEO 、AlphaGo之父戴密斯·哈薩比斯。

當然，鑑於微信和知乎上已然鋪天蓋地了足夠多的討論，我無意在技術問題上繼續深究，而是想討論，除去市場從業者的欣喜若狂與技術悲觀者的單純恐懼，脫離了人類知識的阿爾法元對於我們而言究竟還意味著什麼？如果說從前機器像人類一樣思考曾經讓我們倍感憂慮，那麼，當機器不再像人類一樣思考，我們又該何去何從？

造物和它的創造者可以是不同的嗎？

在1982年版《銀翼殺手》中，導演雷德利·斯科特一開始便為觀眾呈現了所謂的「沃伊特·坎普夫測試」，該測試由測試者為被測試人描述一系列場景並提出問題，通過以儀器記錄這一過程中被測試人的面部微血管、瞳孔、虹膜等的反應來進行。根據菲利普·迪克原著小說中的設定，複製人不具備與人類一樣的情感反應，因此，這一測試便能夠以直接的生理反應來判定其是否為複製人。很明顯，迪克設計的這個測試是圖靈測驗的科幻升級版——阿蘭·圖蘭曾在《計算機器與智能》中提出這樣一個設想：在某測驗裡，人類測試者向其看不見的兩位被測試者提出問題（這兩個被測試者一個是人類另一則是電腦），在保證測試者只能根據二者的回答內容來判斷的條件下，如果測試人無法指出哪個測試者為機器，那麼則可認定該機器具有了「智能」。

圖靈測試對後世產生了巨大的影響，其餘不論，單就近年來甚囂塵上的「技術奇點」論來說，其中很大一部分內容便與能通過圖靈測試、超越了人類智能的人工智慧有關。當然，質疑該測試的也大有人在，其中最著名的要數哲學家約翰·塞爾祭出的「中文屋子」。塞爾假設自己被鎖在一間密室裡，需要對一個用中文講述的故事進行簡單的是否回答。他雖然不懂中文，但因為房間裡有能以中文輸入同時輸出中文答案的程序，所以他只要按程序走，便可以一直得出正確答案。這一實驗，簡單來說，就是一個沒有複習的考生參加考試，因為照抄旁邊的人最後拿了滿分。在塞爾看來，我們當然不能說這個考生理解了考試的內容，所以我們也不能說能在「測試」中得出正確答案的電腦理解了它所處理的內容因而具有了「智能」。塞爾這招「中文屋子」雖然劍指圖靈測試，但它的直接挑戰對象實際上是強人工智慧派。這一「流派」將智能視為某種「算法」，只要能運行算法，那麼即便是簡單的機械都能被視為擁有智能。而經過「中文屋子」的密室洗禮，被強AI派所模糊的處理信息和理解信息之間的鴻溝便被清晰地揭示出來。不過問題在於，強人工智慧派很大一部分受惠於控制論，而在控制論的大佬們看來，是否理解信息似乎不那麼要緊——羅斯·阿什比，這個曾將自己設計的由四個鋁盒組成的「同態調節器」視為接近人類大腦的控制論代表人物就認為，生命不過是一個「黑箱」，我只管輸入輸出，黑箱裡有什麼，重要嗎？

以阿什比的說法反觀，便可發現，無論是圖靈測試還是中文屋子都有一個隱含的前提：人工智慧就算不跟人類智能相同，也應該與人類智能相似。但是誰規定一定要相同呢？控制論創始人諾伯特·維納在《上帝與人造人公司》中曾如此追問：「上帝能和它的造物玩一場有意義的遊戲嗎？任何創造者，即便是有缺陷的創造者，都能和他自己的造物玩一場有意義的遊戲嗎？」維納給出的答案是肯定的，造物能超過它的創造者，因而它也能與其來一場意味深長的遊戲（維納由此認識到人類被顛覆的危險）。然而，對維納的追問還有另一重解讀——這個遊戲得以展開不是因為造物能夠強於創造者，而是因為造物與創造者可以是不同的。

科幻小說給這一思考提供了同樣富有意味的敘述。丹·西蒙斯的《海伯利安》裡，已經將宇宙網絡化的人類與人工智慧內核共同治理著整個的星球聯盟，而人工智慧卻在背著人類悄悄地開發著自己的人工智慧——終極智能。針對這一情況，敘述者如此說道：「這個終極智能，這個人格的動機是內核遠遠無法理解的，就好像人類無法理解內核一樣。」擺脫了人類知識的阿爾法元，不過以朝向終極智能的姿態再一次回答了維納的問題：衝破圖靈測驗和中文屋子的人類，終於到了直面機器經驗的時候了。

從零開始：不依賴於人類經驗的另類經驗

然而，強人工智慧並不是就毫無問題。

將生命、智能僅僅視為一種算法，一個毋庸置疑的導向便是，讓生命與智能得以徹底脫離身體和物質。這在科幻小說和科幻電影中十分常見，一個人瞬間從地球傳送到半人馬座α上一個有三顆太陽的星球上，自己的意識不會受到一點損害，這自然是一件極其便利的事情。但這裡潛在的危機是，就現實層面來說，任何技術發展都不是一蹴而就的，實際上，它往往總是由頂層往下擴展，並且在擴展的過程中往往會帶來不可預料的後果，於是，一方面是科幻作家劉慈欣所擔憂的某種絕對不平等的出現，另一方面，則是後人類主義者海勒斯所說的，它不過是將自由人文主義中那一小撮人的特權擴展到了後人類的領域。而就稍微理論的層面看來，它最終不過是打著直面他者經驗的名義抹殺了一切經驗，無論是人類的，還是機器的。

在深思團隊的論文中，他們將脫離了人類知識的阿爾法元神經網絡的空白狀態稱為「白板」（tabula rasa）。這一說法源於洛克的《人類理解論》。在洛克看來，人心就如一張白板一般，「沒有一切標記，沒有一切觀念」，而它們後來的產生全是從「經驗」來的。當然，阿爾法元的創造者們並不在乎洛克說過什麼，但這個拉丁語的出現卻以一種隱喻的方式提示了「經驗」的共同在場——人工智慧不再追摹人類智能，而人類經驗也不再覆蓋機器經驗。

海勒斯曾以布魯克斯的例子來區分人工智慧（Artificial Intelligence）與人工生命(Artificial Life)。布魯克斯的大學室友莫拉維克以摹仿人類的中心控制的方式設計過一個機器人，但這個機器人行走起來卻問題百出。目睹莫拉維克失敗的嘗試後，布魯克斯開發出了自己的昆蟲型機器人，這種機器人沒有預先對行走步法進行中心設計，只對每條腿進行單獨的編程處理，而在這些腿最初磕磕絆絆的行走中，在與環境的具體互動中，它們卻能摸索出一種最優的行走方法。海勒斯將前者視為人工智慧，而將後者視為人工生命，在她看來，人工智慧是要在機器內部建立和人類相似的智能，人類是人工智慧的衡量標準；人工生命則不同，它通過「『生物』自己發現的道路在機器內部發展智能」，人類因為不再是評判標準，反而在創建「人工生命」的過程中重塑了自己的生命形態。當然，在這裡引用這個例子並不是將阿爾法元視為一種「人工生命」，而是因為，儘管二者並非同類，但它們都共同揭示了不依賴於人類經驗的另類經驗的重要性。我們不必一定按照海勒斯所劃定的後人類分布式系統的方向前進，但在走向未知明天的道路上，與其狂熱期待或盲目憂慮，更務實的毋寧是承認我們已然置身於某種多經驗的時代，並通過經驗的聯結與貫通在這個美好生活需要與仍然不平衡的發展共存的時代裡，尋找到一條「從零開始」之路。

1984年，威廉·吉布森在《神經漫遊者》中寫道：「要召喚一個魔鬼，你必須知道它的名字。」這個魔鬼，便是人工智慧。可奇怪的是，吉布森一面將人工智慧咒為「魔鬼」，另一方面又把它描述為「無所在，無所不在，我就是一切的總和，是全部的全部」的神一般的存在。我們可以認為，這也正是他將「人性」賦予作為人工智慧的「神經漫遊者」的原因——這部賽博朋客經典有意無意地揭示了將神、魔、人共同再編碼的人機共生狀態，在這樣的後人類場景中，吉布森所展現的並不是某種期待或恐懼，而是某種與機器經驗雜合的生存常態。

於是，我們不妨回到特德·姜的《你一生的故事》。女主角以語言學家的身份學習外星人七肢桶的語言，而在學習的過程中，她也逐漸為這新的語言及其背後的經驗所改變。她或許既沒變得更好也沒變得更壞，但在與七肢桶經驗遭遇互動的過程中，她的生活的確完全不同了。

但是，或許七肢桶並不來自地球之外。當機器不再如人類一般思考之時，一切便可能從阿爾法元開始。