NV超大規模加速器 提升機器學習吞吐量

2023-06-29 20:52:06

    2015年11月10日,NVIDIA發布了一款端到端超大規模數據中心平臺，該平臺讓 Web 服務公司能夠為其浩繁的機器學習工作量加速。

    NVIDIA 超大規模加速器系列產品包含兩款加速器。研究人員想要利用人工智慧 (AI) 來為越來越多的應用提供處理動力，其中一款加速器讓研究人員能夠為這些應用中的每一個應用更快地開發和設計新的深度神經網絡。另一款加速器是一款低功耗加速器，旨在將這些網絡部署於整個數據中心。該系列加速器還包含一套 GPU 加速的庫。

    所有這些加在一起，讓開發者能夠在超大規模數據中心內利用強大的 Tesla 加速計算平臺來驅動機器學習，打造比較獨特且基於人工智慧的應用。

    NVIDIA 聯合創始人兼執行長黃仁勳 (Jen-Hsun Huang) 表示：「人工智慧競賽正在進行。無論是從 PC、網際網路還是從雲計算的角度而言，機器學習都無疑是當今計算行業最重要的進展之一。它正在消費者雲服務、汽車以及醫療等行業中掀起革命。」

    他指出：「機器學習對我們這代人來說是一大計算挑戰。我們創造了 Tesla 超大規模加速器系列產品來使機器學習的速度提升 10 倍。這為數據中心節省了大量時間和成本。」

    這些全新的硬體與軟體產品經過專門設計，可為競相融入人工智慧功能的海量 Web 應用加速。機器學習領域中的開創性進步讓人們能夠利用人工智慧技術來打造更智能的應用與服務。 

    人們正在利用機器學習來使語音識別變得更加準確。機器學習能夠在視頻或照片中實現對象識別與場景識別，能夠添加標籤以便於之後進行搜索。機器學習能夠在視頻或照片中實現人臉識別，即使是在人臉被部分遮擋的時候也能夠識別。機器學習還能夠為那些了解個人品味與興趣的服務提供處理動力，這類服務可制定時間表、提供相關的新聞報導、以對話的口吻準確地對語音指令作出響應。

    機器學習使這類神奇的功能成為了可能。人們所面臨的挑戰是如何獲得極高的超級計算性能來開發和訓練越來越多的深度神經網絡、如何獲得足夠的處理能力來為使用這類服務的消費者即時響應數十億次查詢。NVIDIA 超大規模加速器系列產品旨在為這些工作量加速並大幅提升數據中心的吞吐量。

NVIDIA Tesla 平臺的這些新成員包括：

    NVIDIA Tesla M40 GPU– 性能最強的加速器，專為訓練深度神經網絡而設計 

    NVIDIA Tesla M4 GPU– 低功耗的小巧型加速器，用於機器學習推理以及圖像與視頻處理的流式傳輸 

    NVIDIA Hyperscale Suite – 一套豐富的軟體，專為機器學習和視頻處理而優化 

NVIDIA Tesla M40 GPU 加速器

    數據科學家需要利用海量的數據來訓練其深度神經網絡以達到更高的整體準確度，NVIDIA Tesla M40 GPU 加速器讓數據科學家在訓練自己的深度神經網絡時能夠節省數天乃至數周的時間。其主要特性包括：

    專為機器學習而優化 – 與 CPU 相比可令訓練時間縮短 8 倍 (在典型 AlexNet 訓練中的對比結果為 1.2 天比 10 天)。

    可靠性高、專為全年不間斷運行而打造 – 經過專門設計並在數據中心環境中經測試可提供極高的可靠性。

    可擴展的性能 – 對 NVIDIA GPUDirect 的支持使其能夠快速訓練多節點神經網絡。

NVIDIA Tesla M4 GPU 加速器

    NVIDIA Tesla M4 加速器是一款低功耗 GPU，專為超大規模環境而打造並針對苛刻的高增長型 Web 服務應用而進行了優化。這些應用包括視頻轉碼、圖像與視頻處理以及機器學習推理等等。主要特性包括：

    吞吐量更高 – 同時對多路視頻流進行轉碼、增強以及分析的吞吐量最高可達 CPU 的 5 倍。

    功耗低 – 藉助用戶可選的功率配置文件，Tesla M4 僅消耗 50-75 瓦特的功率，在視頻處理與機器學習算法方面最多比 CPU 節能 10 倍。

    外形小巧 – 刀卡式 PCIe 設計適合安裝到超大規模數據中心系統所需的各種機箱內。

NVIDIA Hyperscale Suite

    全新的 NVIDIA Hyperscale Suite 包含針對開發者與數據中心經理的各種工具，這些工具專為部署 Web 服務而設計，其中包括：

    cuDNN – 業界最流行的算法軟體，可處理用於人工智慧應用的深度卷積神經網絡。

    GPU 加速的 FFmpeg 多媒體軟體 – 可利用應用廣泛的 FFmpeg 軟體來加速視頻轉碼與視頻處理。

    NVIDIA GPU REST Engine – 讓人們能夠輕鬆創建和部署高吞吐量低延遲的加速型 Web 服務，這些服務包括動態重調圖像尺寸、搜索加速、圖像分類以及其它任務。

    NVIDIA Image Compute Engine – 包含 REST API的 GPU 加速型服務，在重調圖像尺寸方面能夠比 CPU 快 5 倍。

Mesosphere 的支持

    業內的 Mesosphere 公司最近表示支持 Tesla 加速計算平臺，該公司宣布，目前正與 NVIDIA 攜手在 Apache Mesos 和 Mesosphere 數據中心作業系統 (DCOS) 中加入對 GPU 技術的支持。此舉將讓 Web 服務公司能夠更輕鬆地為其下一代應用打造和部署加速的數據中心。

上市情況

    Tesla M40 GPU 加速器和 Hyperscale Suite 軟體將於今年晚些時候上市。Tesla M4 GPU 將於 2016 年第一季度上市。如需了解更多信息，敬請訪問 NVIDIA Tesla 網站。

    通過此次新產品的發布，NVIDIA再一次拓展了Tesla在數據中心的應用領域。從針對高性能計算的K80、K40，到今年針對企業虛擬化的M60和M6，再到如今針對數據中心機器學習的產品。可以說，如今數據中心涉及的任何計算需求，NVIDIA都可以為其提供針對性的解決方案。■