以存儲為中心的片上系統與人工智慧
2024-09-19 02:49:11 2
以存儲為中心的片上系統與人工智慧
當高性能、低功耗以存儲器為中心的片上系統與物聯網設備和雲伺服器相結合時，能夠實現怎樣的情形呢?
史丹福大學近期的一份報告表示，人工智慧 (AI) 在近期不會取代人類的需求，但它將對日常生活產生深遠的影響，改變運輸、教育、醫療和娛樂等行業。深度神經網絡算法與機器學習所產生的激動人心的發展成果將帶來新的智能接口、新的虛擬助手以及多個行業一系列應用的進化 —— 這些曾經只存在於研究實驗室中的夢想如今卻成為了消費者觸手可及的現實。
圖1：來源 https://de.wikipedia.org/wiki/Go_(Spiel)#/media/File:Go_board.jpg
Donarreiskoffer - Selbstfotografiert
機器學習算法開始走向大眾的第一個例子是計算機開始在與棋手的對戰中取勝，比如最近與優異圍棋選手之間的比賽(圖1)。而像這樣的可能性還會更多。我們現在正在進入一個監視攝像頭和自動駕駛通過機器學習技術成為現實生活中高級計算機視覺應用的時代。使用深度學習算法的語音識別和智能傳感器能夠提高機器人應用的環境感知。用於電子商務與廣告建議的雲分析以及商業分析或醫療建議也只不過是冰山一角，並且這些應用的種類正變得越來越豐富。
為了讓人工智慧不僅限於實驗，需要改進用戶體驗，從而加快採納並且使公司能夠盈利。人工智慧以及更具體的機器學習是幾乎每家未來企業盈利和與競爭對手實現更大差異的核心。在過去，數據存儲是成本中心，而如今它有機會成為利潤中心 —— 這是因為數據能夠訓練算法並且創造新的應用。
算法需要訓練大型數據集。處理這些數據的算法正變得越來越複雜，並且所有數據都需要實時處理。多年來，許多公司都清楚地知道數據採集是其商業模式中最寶貴的資產。現在，人們已了解社交媒體公司為何提供如此便捷、免費的平臺用於圖片分享與發表評論。這一海量的合格數據現在已成為一項非常寶貴的資產，並且為這些企業帶來了極高的價值：其應用或設備所採集的大部分數據被直接輸入到深層神經網絡以訓練它們。可以快速訪問、用於訓練機器學習算法的數Zb存儲數據將帶來更具創新性的產品與應用。
圖2：人工智慧可以將數據轉換為體驗。
物聯網是人工智慧的基礎
物聯網是人工智慧的自然基礎，並且最終當所有互連設備成為更智能、更具預測性的設備時，這兩者將會合二為一。物聯網主要用於採集數據，而人工智慧的主要工作則是使用數據。數據越多，人工智慧算法的智能程度就越高。
內置於智能設備的聲控虛擬助手，比如蘋果公司的 Siri、亞馬遜的Alexa或谷歌的Home等的性能正變得越來越強大。類似於斯派克·瓊斯的浪漫主義科幻電影《雲端情人》中的體驗可能在幾個月後就能實現。近期，需要對數據進行本地分析的人工智慧型監控攝像頭的發展速度正在加快。而將4K視頻上傳到雲端進行處理和下載所產生的性能與成本挑戰將阻礙必須採取的措施。想像一下：當無線網絡信號不佳時，駕駛輔助系統出現故障。大部分智能設備都需要通過更好地理解其環境和消費者的習慣來根據用戶體驗改善性能。進化的基礎是從我們過去的經驗中學習並且改進我們的未來行為。
這些生成大量可分析與可執行數據集的技術需要有創新的存儲技術提供高性能與低能耗。
Crossbar RRAM等非易失性存儲技術正在通過提供低功耗、低電壓的運行、與計算機內核的單片集成以及可按字節尋址的寫入幫助解決嵌入式物聯網的性能與能源挑戰。RRAM是能耗最低的物聯網應用存儲技術，並且可以與單片解決方案上的處理內核集成。
RRAM通過與專用邏輯的片上集成加快深度神經網絡算法。來自傳感器的數據可以保存在片上並且直接通過深度神經網絡傳輸，從而採取直接行動。對象並非通過軟體的獲取行，而是通過與來自各傳感器的外部數據產生反應來實現智能。數據採集與處理可以通過嵌入式RRAM集成到一個單片解決方案上。通過集成高密度片上存儲器與同一節點上的處理器，數據從處理器向片外存儲器子系統的傳輸及回傳所固有的延遲被消除。因此， RRAM 技術是一項加快挖掘新型大數據、人工智慧領域潛力的創新，使多種應用加快性能，並且大幅提高了能效、實現了出色的安全性並且減少了晶片的數量與尺寸。
圖3：同一矽晶片上的非易失性存儲器和計算邏輯加快數據訪問並且提高能效
人工智慧所需的新架構
摩爾定律戛然而止，CPU的刷新頻率更低。目前英特爾處理器所遇到的馮·諾依曼存儲瓶頸問題可以通過更加以存儲器為中心的新系統架構解決。必須減少存儲技術與計算之間的性能差異。傳統的快閃記憶體型存儲解決方案的讀取反應時間在100微秒範圍內，而Crossbar 3D RRAM則為1微秒。除了 Crossbar的 RRAM之外，Intel Micron XPoint PCM、Everspin 和 Avalanche MRAM等新興存儲技術還支持其他多項倡議，它們都致力於解決這一挑戰。
數據中心中的傳統架構通常包含三個獨立的部分：
? 帶頂尖處理內核與配套DRAM存儲器的計算部分
? SSD或HDD單位字節成本最低的數據存儲部分
? 連接計算部分與數據存儲部分的網絡
分析師發現數據中心的集成度正呈現越來越高的趨勢，其中這三個組成部分 —— 計算、存儲和網絡被壓縮到一個緊湊的尺寸，這被稱之為「超融合伺服器」。
根據近期的一些報告，已有40%的企業數據中心使用超融合伺服器，而這一市場有望在未來五年增長近80%。
數據中心基礎架構市場正在縮短伺服器各元素延遲時間的方向快速發展。在一個單元中集成所有組件能夠減少延遲、總擁有成本和功耗。在超融合伺服器中，計算、存儲和網絡部分可以實現更高效的互連。新的行業論壇正在實現處理器、存儲和IO之間的高帶寬低延遲數據訪問。在高性能計算應用中，Intel Micron 3D XPoint PCM和 Crossbar 3D RRAM將通過減少存儲與計算之間的性能差距實現顯著的改進。
可以直接在片上與處理邏輯集成的存儲技術將實現全新的以存儲器為中心的片上架構。當非易失性存儲器與計算邏輯共享同一塊矽晶片時，就能解決外部總線的性能瓶頸。嵌入式永久存儲技術的一個特殊應用領域是建立在以存儲器為中心的片上系統基礎之上的深度學習硬體加速。人工智慧和深度學習是這十年最有可能取得進展的計算技術。深層神經網絡的核心是數據以及經過訓練的算法如何應對新的數據集。行業對於新計算平臺的開發具有濃厚的興趣，這些計算平臺通過專門嵌入RRAM內核的多個處理引擎具備了大規模並行計算能力。目前已有多家企業已經在研究如何將RRAM單元作為神經形態處理架構的突觸。
圖4：提供新人工智慧體驗的RRAM並行計算平臺。
在物聯網設備和雲伺服器中引入這些高性能、低功耗且以存儲器為中心的片上系統使數據和計算變得無處不在 —— 用戶可隨時隨地在需要時使用它們。這些解決方案不僅為雲端提供了容量與規模都十分「龐大」的數據，而且也帶來了嵌入式應用實現新人工智慧應用所需的能效、安全性以及出色的低延遲性能。
