微軟：跟我相比 谷歌大腦就是只猴子

2023-12-10 10:52:24 1

    泡泡網主板頻道7月17日 各大科技企業近來不約而同地發力「人工智慧」和「深度學習」領域。「Google大腦之父」、現百度首席科學家Andrew Ng一個月前在SYNC大會上提到過，「深度學習是許多現代科技產品背後的「引擎」，作為核心技術支撐著商業上的應用，比如網絡搜索、機器翻譯、產品推薦和醫學圖像等，帶來了相當可觀的經濟價值。」

　　現在，微軟也加入了這個「角鬥場」。

　　微軟的研究人員稱，他們的深度學習系統——名叫Adam(亞當)——取得了突破性的成果，比起之前的深度學習系統而言更為成熟。微軟的研究人員舉例說，比如在圖片識別方面，這個系統不僅可以識別出指定的物品，還能夠在該類目分類項下，進行更精確的識別。

　　和先前的「Google大腦」作對比，如果說「Google大腦」能做到的是，在看完一周Youtube視頻後，識別出貓，那麼Adam可以識別出貓及貓的品種，並且使用的機器數量只有之前的三十分之一。

　　微軟研究院主管Peter Lee博士表示，「Adam計劃」尋找的並不是在模擬神經網絡的規模上有所突破，而是構建方式上的改進。這些改進指的是：優化和微調了機器處理數據和機器間數據溝通的方式。當計算系統變得更為複雜時，每個部件之間都在同一時間傳送信息——這件事會隨著系統越來越龐大而越來越困難，而Adam系統允許了異步算法的存在。

　　異步算法指的是將一個大的系統拆分為不同的部分，並且在分享和輸出計算結果前允許他們分別獨立運作，同時，在分享結果時各個部分的結果相互覆蓋也沒有問題。

　　威斯康辛大學計算機科學學院的研究者Feng Niu, Benjamin Recht等人的研究報告指出，在使用傳統的隨機梯度下降算法(SGD)來進行幾個並行計算任務時，通常需要保證計算結果輸出的同步，否則會引發數據衝突。但如果只是應用在小型計算系統裡，首先，數據衝突的機率很低。其次，由於數據結果的寫入往往是遞增性的，每個部分輸出和疊加只是順序不同，因此即便發生衝突但計算結果通常都是一致的。這個在研究報告中被稱為「Hogwild!」技術使得異步計算在深度學習系統中成為可能。

　　另外，微軟的深度學習系統，不同於Google大腦採用GPU為搭建的元件，而是使用了造價更為昂貴的CPU，這些機器由微軟的Azure雲服務提供支持。■