生成式人工智能提高了人工智能變革力量的賭注，對我們日常生活的方方面面產生了深遠的影響。在過去的一年里，我們看到人工智能的能力牢牢掌握在消費者手中。MWC 2024最近發(fā)布的新聞和產品公告強調了我們可以從下一波生成式人工智能應用中看到的東西。人工智能將無處不在，直接集成到邊緣和端點設備中，使創(chuàng)造力和溝通達到新的水平。

“邊緣人工智能”是指將人工智能算法部署到網(wǎng)絡邊緣基礎設施中，以及直接部署到終端上，如智能手機、攝像頭、傳感器和物聯(lián)網(wǎng)設備，從而在不依賴云服務器的情況下實現(xiàn)實時處理和決策。AI處理的這種分散化提供了幾個優(yōu)勢，包括減少延遲、增強隱私以及在互聯(lián)網(wǎng)連接有限的情況下提高可靠性。

讓我們舉一個智能手機的例子，它配備了人工智能邊緣功能。智能手機可以利用設備上的人工智能模型在本地執(zhí)行這些任務，而不是僅僅依賴基于云的服務來執(zhí)行語音識別、翻譯和圖像處理等任務，從而為用戶提供更快的響應時間，并通過最大限度地減少向外部服務器傳輸數(shù)據(jù)來保護隱私。

邊緣人工智能的核心是高效推理，即采用經過訓練的人工智能模型進行預測或決策的過程，它需要專門的內存技術來提高性能，同時根據(jù)終端設備的獨特需求進行定制。由于更大的模型提供更高的準確性和結果保真度，因此在不超出設備功率和空間限制的情況下，將會出現(xiàn)對更大內存容量和帶寬的持續(xù)需求循環(huán)。

設計人員對于 AI/ML 推理有多種內存選擇，但在帶寬這一關鍵參數(shù)上，GDDR 內存表現(xiàn)出色。 如果功耗和空間限制至關重要(對于手機和許多物聯(lián)網(wǎng)設備來說尤其如此)，那么 LPDDR 就是首選內存。 用于邊緣 AI 推理的內存需要在帶寬、容量、功耗和外形緊湊性之間取得適當?shù)钠胶狻?/p>

確保邊緣和端點設備的安全也至關重要。 這些設備收集和處理敏感數(shù)據(jù)，從個人信息到專有業(yè)務洞察，使它們成為網(wǎng)絡攻擊的潛在利潤豐厚的目標。 實施強大的安全措施對于保護人工智能設備免受一系列潛在威脅(包括惡意軟件、數(shù)據(jù)泄露和未經授權的訪問)至關重要。 這涉及采用加密協(xié)議、安全啟動機制和基于硬件的安全功能來保護傳輸中和靜態(tài)的數(shù)據(jù)。

邊緣人工智能的崛起將為各種應用的創(chuàng)造力、創(chuàng)新和個性化體驗帶來新的機遇。 然而，要在任何地方充分發(fā)揮人工智能的潛力，就需要用于推理以及邊緣和端點設備安全的內存技術不斷發(fā)展。

適用于 GDDR 和 LPDDR 的 Rambus 內存接口控制器可提供現(xiàn)在和未來 AI 推理所需的高帶寬、低延遲內存性能。 憑借廣泛的安全 IP 產品組合，Rambus 還支持基于硬件的尖端安全性，以保護支持 AI 的邊緣和端點設備。