精通ai要多久（端側AI普及到底卡在哪了）

2023-04-12 08:21:47 2

「我們的AI晶片設計出來了，但是沒多少人能用起來。」這是兩三年前端側AI晶片CEO們的煩惱。

「面對十多款端側AI晶片，選型就是一個難題。」一位AI應用的開發者在2022年依舊面對的難題是，「即便最終做了選擇，面對上千頁的開發手冊，學習和開發門檻都很高。」

與雲端AI面臨的挑戰類似，邊緣和端側AI軟硬體的成熟度以及軟硬的融合很大程度上阻礙了AI的普及，降低AI開發門檻，提升通用性成為了AI普及的當務之急。

當然，技術挑戰還不是卡住端側和邊緣AI普及的唯一原因，商業層面也面臨諸多挑戰，比如應用場景眾多，如何在眾多的應用場景中形成一個良好的商業閉環？如何讓傳統行業也能輕鬆用上AI技術？

這其中，非常關鍵的一點就是提供打動消費者的使用體驗。曾經火爆一時的智能音箱已經證明，不佳的使用體驗只會讓消費者迅速對新技術感到失望。要實現良好的AI產品用戶體驗，多傳感器融合以及多種AI技術的應用成為了未來的發展方向。

那麼，雲邊協同能否加速端側AI普及？

端側AI的三道檻

在智能音箱爆發的2018年，智能音箱裡並沒有用於實現AI功能的專用晶片，AI的算法也並不成熟，再加上整個行業的低價惡性競爭，體驗不佳的智能音箱讓眾多嘗鮮者很快放棄了這一AI「爆品」。

智能音箱非常好地反映出了端側AI普及面臨硬體、算法以及應用需求多樣的三道檻。

這一次AI的浪潮得益於深度學習技術的發展，新的AI算法對算力提出了更高要求，促進了眾多設計專用AI晶片公司的誕生，2016年左右湧現了大量AI晶片公司，這些公司的產品在2018年左右陸續推出。

2018年推出全球第一顆量產RISC-V商用邊緣AI晶片，並出貨了上百萬顆晶片，2021年推出第二代AI晶片勘智K510的嘉楠科技對於AI的發展和應用頗有感觸。

嘉楠科技副總裁湯煒偉對雷峰網表示，「我們的第二代勘智K510的AI算力已經達到3TOPS，AI的硬體正在通過迭代成熟，工具鏈依舊有比較多的挑戰。」

晶片的工具鏈很長，大體上可以分為前端和後端，前端的工具鏈主要做算法的優化，比如壓縮、融合等，後端的工具主要負責調用晶片。

運行於晶片上的算法，則是邊緣和端側AI普及的第二道檻。

「針對端側AI的算法太少，這直接導致了許多AI硬體沒辦法用起來。」一位AI從業者如此看待AI算法與AI普及的關係。

湯煒偉認為，「這個說法有道理，但不全面，算法肯定是影響最終效果和體驗的因素，但算法不夠好可能是因為應用場景太小沒人願意投入，或者那個場景的數據難以獲取，增加了算法提升的難度。」

「AI算法從實驗室環境到實際應用有非常多的挑戰，在真實場景中AI算法很容易受到各種環境的影響。我認為邊緣側AI的算法可以分為三類。」湯煒偉表示。

一類算法是通用算法，比如圖像檢測和分割算法；一類是場景算法，比如人臉識別、人體姿態算法；還有一類是定製算法。

「AI算法的應用範圍越窄，在具體的場景中就越精準，效果更好。但同時也意味著它可能會導致用戶群體和體量更小。」湯煒偉認為。

邊緣和端側AI硬體和算法向前迭代的時候，就會遇到普及的第三道檻——應用多樣，需求不同。

從AI語音到AI視覺，從單傳感器到多傳感器融合的智能硬體，從工業到農業再到智能家居，邊緣AI的一大特點就是應用場景豐富，不同的應用場景對於晶片的性能和功耗，對於使用的算法的類型和精度，以及使用的場景都大不相同。此時，如果有一個通用的AI解決方案，將有助於AI的普及。

不過，湯煒偉認為，「短期內比較難有通用的AI解決方案，因為AI的算法還在不斷迭代。另外，端側和邊緣的AI硬體採用的是ASIC專用晶片，並沒有統一的標準，實現通用的AI解決方案難度比較大。」

實際上，邊緣和端側AI產品的開發當務之急是解決產品開發門檻高的問題。

雲邊協同是AI普及良藥？

「十幾款可選的AI晶片，每一種晶片的工具鏈都不一樣，學習其中一種的門檻就很高，如何才能快速開發出AI產品？」這是AI開發者共同的難題。

晶片的選型無論對於中小型公司還是大型公司都是一個挑戰，中小型公司支持兩三個平臺就已經非常吃力了，大公司有能力投入進行細緻篩選，但周期很長，要選出一個能夠長期合作的合作夥伴的難度也很大。

但無論選擇哪個硬體平臺，開發的門檻客觀存在。因為端側和邊緣AI設備的開發涉及嵌入式開發的AI開發，懂嵌入式開發或者AI開發的工程師本來就很少，更別說既懂嵌入式又懂AI開發的人。

這就非常考驗晶片公司的工具鏈和軟體平臺，有更加容易上手和高效的工具鏈實際上是所有AI晶片公司的核心競爭力。

「我們做軟體工具鏈的時候利用了開源的優勢，嘉楠AI晶片的SDK和應用實例的各種軟體都已經開源，開源的好處在於新客戶可以直接看詳細的文檔，大大降低了客戶的使用難度，也降低了我們支持客戶的難度。」湯煒偉說，「開源也有利於大家一起協作創新。」

據雷峰網了解，一個公司評估了市場上四五家AI晶片的產品，最後因為工具鏈以及算法損失精度更小選擇了與嘉楠合作。

據湯煒偉介紹，嘉楠有自己開源工具鏈的溝通群，一群長期穩定做軟體工具鏈的人能夠方便的在群裡溝通，反饋問題，這對他們提升工具鏈有很大的幫助。

好用的工具鏈確實能降低開發難度，但對於許多缺乏開發能力的開發者，更低門檻的雲邊一體的解決方案或許是更優的選擇。

「今年上半年，我們合作夥伴的客戶說想要做一個雲邊協同的應用，三方一拍即合一起做了一個大型的AI雲邊協同應用。」湯煒偉說。

這是一個海上漁船監測系統的雲邊協同AI解決方案，海上漁船本來就裝有一些包括攝像頭在內的多種檢測漁船狀態的傳感器，會接入邊緣網關進行數據處理，但由於漁船長期在海上，網絡信號並不穩定，難以遠程即時了解漁船的狀態，漁船上的傳感器也不能協同實現一些智能化的功能。

嘉楠聯合AWS、智次方和客戶，給每艘漁船安裝上了基於K510的產品作為智能邊緣網關。有了這個智能邊緣網關，漁船上的攝像頭採集的視頻圖像就能藉助K510的AI能力，進行本地圖像分析處理，對船員作業情況進行統計分析和識別，如果算法模型或者系統有迭代更新，可以在雲端方便的控制進行更新。

同時，勘智K510上集成了AWS IoT Greengrass組件，可以簡化整個系統的部署和管理，即使整個系統管理的船隻規模變大，行駛在不同的海域，通過雲端管理平臺，都能及時的掌握設備的運行狀態，實現實時監測系統的整體運行情況。

湯煒偉說，「傳統的AI應用受限於終端的計算能力和網絡條件，往往部署在雲端，無論是處理及時性，還是系統運行成本，都有其弊端。隨著技術的進步，採用邊雲協同的方案，可以充分利用雲端靈活的管理系統和邊緣端不斷強大的計算能力，做到魚與熊掌兼得，正成為很多應用場景的優選方案。」

雲邊協同對於AI普及更重要的價值在於，「我們和AWS的合作已經搭建好了一套雲邊協同的方案，已經提前做好了前期的開發和測試，客戶在使用的時候就像『搭積木』一樣方便，除了海上漁船的應用，有許多客戶也計劃採用我們的雲邊協同的方案。」湯煒偉指出。

雲邊協同的AI解決方案對於包括像漁船、農業等傳統行業應用AI展現出了極大的價值，對於助推邊緣AI的普及，以及推動AI在更多領域的創新，都是一個顯著的推動力。

接下來的問題是，端側AI的機會在哪？

下一個端側AI的爆款產品

端側AI的上一個爆品，還是年出貨量不到5000萬的智能音箱。智能音箱之後，一直沒有看到端側AI的新爆品。

「端側AI的競爭實際上非常激烈。」湯煒偉說，「之所以智能音箱之後沒有現象級的單品，主要還是出貨量的級別不夠大，智慧型手機一年出貨近14億部，智能音箱高峰時候一年不到5000萬的出貨量，與智慧型手機相比差距很大，但相比許多終端AI產品的出貨量已經很高。」

目前看來，掃地機器人可能有智能音箱的趨勢，一年的出貨量可以達到2000-3000萬臺。

湯煒偉也同時指出了未來邊緣和終端AI智能產品的走向，他認為未來許多場景的AI產品不會只是用單純的視覺或語音方案，將會是多傳感器融合的產品，就像現在的智能門鎖一樣，既有指紋識別，也有人臉識別，還能用密碼，這將是未來AI邊緣和AI產品發展的趨勢，智能家居的產品也將受益於智慧型手機和安防技術的下沉。

當然，更好的雲邊協同，也將讓更多行業和公司用上AI技術。「將來會有更多行業或者有應用場景的公司加AI能力解決實際問題。比如手機製造商，他們想做好攝影，就加入AI的算法，實現了比較多新的AI功能，實現了差異化。或者我們和亞馬遜合作的海上漁船監控的解決方案。」湯煒偉說。

AI是需要和場景進行結合的技術，能給傳統的行業帶來效率的提升甚至革命性的變革，也能創造全新的應用，這一進程正在加速。