生成式人工智能提高了人工智能變革力量的賭注,對我們?nèi)粘I畹姆椒矫婷娈a(chǎn)生了深遠的影響。在過去的一年里,我們看到人工智能的能力牢牢掌握在消費者手中。MWC 2024最近發(fā)布的新聞和產(chǎn)品公告強調了我們可以從下一波生成式人工智能應用中看到的東西。人工智能將無處不在,直接集成到邊緣和端點設備中,使創(chuàng)造力和溝通達到新的水平。
“邊緣人工智能”是指將人工智能算法部署到網(wǎng)絡邊緣基礎設施中,以及直接部署到終端上,如智能手機、攝像頭、傳感器和物聯(lián)網(wǎng)設備,從而在不依賴云服務器的情況下實現(xiàn)實時處理和決策。AI處理的這種分散化提供了幾個優(yōu)勢,包括減少延遲、增強隱私以及在互聯(lián)網(wǎng)連接有限的情況下提高可靠性。
讓我們舉一個智能手機的例子,它配備了人工智能邊緣功能。智能手機可以利用設備上的人工智能模型在本地執(zhí)行這些任務,而不是僅僅依賴基于云的服務來執(zhí)行語音識別、翻譯和圖像處理等任務,從而為用戶提供更快的響應時間,并通過最大限度地減少向外部服務器傳輸數(shù)據(jù)來保護隱私。
邊緣人工智能的核心是高效推理,即采用經(jīng)過訓練的人工智能模型進行預測或決策的過程,它需要專門的內(nèi)存技術來提高性能,同時根據(jù)終端設備的獨特需求進行定制。由于更大的模型提供更高的準確性和結果保真度,因此在不超出設備功率和空間限制的情況下,將會出現(xiàn)對更大內(nèi)存容量和帶寬的持續(xù)需求循環(huán)。
設計人員對于 AI/ML 推理有多種內(nèi)存選擇,但在帶寬這一關鍵參數(shù)上,GDDR 內(nèi)存表現(xiàn)出色。 如果功耗和空間限制至關重要(對于手機和許多物聯(lián)網(wǎng)設備來說尤其如此),那么 LPDDR 就是首選內(nèi)存。 用于邊緣 AI 推理的內(nèi)存需要在帶寬、容量、功耗和外形緊湊性之間取得適當?shù)钠胶狻?/p>
確保邊緣和端點設備的安全也至關重要。 這些設備收集和處理敏感數(shù)據(jù),從個人信息到專有業(yè)務洞察,使它們成為網(wǎng)絡攻擊的潛在利潤豐厚的目標。 實施強大的安全措施對于保護人工智能設備免受一系列潛在威脅(包括惡意軟件、數(shù)據(jù)泄露和未經(jīng)授權的訪問)至關重要。 這涉及采用加密協(xié)議、安全啟動機制和基于硬件的安全功能來保護傳輸中和靜態(tài)的數(shù)據(jù)。
邊緣人工智能的崛起將為各種應用的創(chuàng)造力、創(chuàng)新和個性化體驗帶來新的機遇。 然而,要在任何地方充分發(fā)揮人工智能的潛力,就需要用于推理以及邊緣和端點設備安全的內(nèi)存技術不斷發(fā)展。
適用于 GDDR 和 LPDDR 的 Rambus 內(nèi)存接口控制器可提供現(xiàn)在和未來 AI 推理所需的高帶寬、低延遲內(nèi)存性能。 憑借廣泛的安全 IP 產(chǎn)品組合,Rambus 還支持基于硬件的尖端安全性,以保護支持 AI 的邊緣和端點設備。