我們都已經看到了有關即將有多少設備連接到物聯網(IoT)的預測。例如，IDC預測到2025年這一數字將超過410億。關于將釋放的機會使我們的房屋，工作，娛樂和旅行更加有效和可持續的報道很多。

[[348765]]

但是，支撐這些進步的數據爆炸正使那些創建產品，服務和支持基礎架構的人頭痛。許多早期的物聯網設備都依靠云來處理其收集的數據。該模型的部分驅動力是云中有效的無限計算能力，再加上許多物聯網設備的受限板載處理能力。

數據上傳到云端的局限性

但是，向云發送數據和從云發送數據都有其缺點。

首先，傳輸數據會消耗能量和帶寬。更多數據意味著您需要更多昂貴且有限的網絡資源。

其次，將數據發送到云會引入延遲，這會限制某些應用程序的有效性。

第三，外部信息帶來了隱私和安全風險。例如，由智能家居設備收集的數據將揭示有關您在家中和外出時的大量信息。如果此信息發送到云，您可以確定它已安全完成嗎?它以什么形式存儲在哪里?誰有權使用它?

引入邊緣智能的優勢

隨著越來越多的設備收集更多(和更敏感)的數據進行處理，解決這些挑戰的需求變得越來越緊迫。這是“邊緣智能”興起的主要推動力之一。

在此模型中，不是將所有數據發送到云，而是在本地網絡的“邊緣”，在連接設備附近完成密鑰處理和決策。這減少了上述延遲，能耗和帶寬使用，同時使用戶能夠將私有數據保留在其自己的基礎架構范圍內。

邊緣智能的核心是機器學習。目前，在這種情況下，我們主要討論機器推理。這是邊緣設備使用預先訓練好的的機器學習模型基于本地傳感器收集的新數據做出決策的地方。

圖1：ABI的研究人員預測，到2024年，支持板載AI推理的設備出貨量將達到20億。(來源ABI;圖片由NXP Semiconductors提供)

在邊緣推動向AI的轉變

通過改進推理處理，尤其是用于加速推理的技術，可以在這種資源受限的環境中顯著增加推理。

第一代機器學習加速器主要基于軟件，并且CPU運行指令集。第二代引入了專用硬件，例如GPU和DSP。今天，我們有了第三代產品，它使用了基于硬件的修剪和壓縮等功能。在硬件中完成的工作越多，由于減少了軟件和CPU周期的使用，該過程就變得更加節能。

圖2：通過機器學習加速器可以看到能源效率的提高。(來源：恩智浦半導體)

當今的邊緣智能可以實現什么

作為人類，我們的大部分交流不只是通過言語傳遞的：我們的語氣，面部表情和手勢都有助于我們本能地交流和理解彼此。使用基于邊緣的推理，當今的設計師可以使他們的產品適應這些信號，從而設計出越來越自然的交互體驗。技術可以包括面部和其他對象和手勢識別，語音識別，音調分析和自然語言處理。

在其他地方，智能邊緣設備可以增強安全性。例如，可以訓練智能家居邊緣套件來識別危險信號，例如警報響起，人員摔倒，玻璃破碎或水龍頭滴落或奔跑。一旦檢測到問題，系統便可以提醒所有者，使他們能夠做出相應的反應。

接下來是什么?

在未來幾年中，很可能會出現許多利用這種功能日益強大的邊緣智能優勢的新型物聯網產品和服務。

我們討論了當前如何使用第三代AI加速功能。未來可能包括神經形態或內存計算，脈沖神經網絡或最終是量子AI。這些發展將有助于加速當前正在出現的另一種趨勢，即能夠在邊緣實施機器學習算法的實際訓練。

對于我們的設計師，工程師，企業和消費者而言，這將是一個激動人心的時刻，我們的技術將變得更加有用，更加安全并且更具可持續性。