作者：彭昭（智次方創(chuàng)始人、云和資本聯(lián)合創(chuàng)始合伙人）物聯(lián)網(wǎng)智庫 原創(chuàng)

這是我的第365篇專欄文章。

在上篇文章《巨頭入局TinyML，端側(cè)與邊緣AI迎來新拐點》中，我曾提到TinyML基金會進行了品牌重塑，已更名為邊緣智能（Edge AI）基金會。

近日，邊緣智能基金會發(fā)布了2025年度最新版本的《2025邊緣AI技術(shù)報告》。該報告對邊緣智能以及微型機器學習TinyML的發(fā)展趨勢進行了全面掃描和總結(jié)。

從報告內(nèi)容來看，TinyML的成熟度可能超出了很多人的預(yù)期，已經(jīng)在現(xiàn)實場景中產(chǎn)生了眾多應(yīng)用案例。

報告的亮點如下：

邊緣AI的技術(shù)推動因素：報告深入探討了支持邊緣AI部署的軟硬件進步，重點關(guān)注了專用處理器和超低功耗設(shè)備的創(chuàng)新，這些創(chuàng)新正在克服資源受限環(huán)境中處理能力和可擴展性的限制。

邊緣AI在行業(yè)轉(zhuǎn)型中的作用：報告揭示了邊緣AI如何通過實現(xiàn)實時分析和決策能力，影響各個行業(yè)的運營模式。

未來技術(shù)與創(chuàng)新：報告的最后章節(jié)展望了可能影響邊緣AI未來發(fā)展的新興技術(shù)，例如聯(lián)合學習、量子神經(jīng)網(wǎng)絡(luò)和神經(jīng)形態(tài)計算等。

因此，在今天這篇文章中，我們將一起梳理《2025邊緣AI技術(shù)報告》的精華內(nèi)容，全面了解TinyML以及邊緣AI的最新進展和發(fā)展全貌。

實時、在地、高效：邊緣AI在六大行業(yè)的創(chuàng)新應(yīng)用

隨著市場對低延遲、實時處理的需求日益增長，邊緣AI正在各個行業(yè)掀起一場風潮，尤其是在汽車、制造業(yè)、醫(yī)療、零售、物流和智慧農(nóng)業(yè)領(lǐng)域。邊緣AI通過在數(shù)據(jù)源處進行實時分析和決策，極大地提升了效率，優(yōu)化了資源配置，改善了用戶體驗。

首先來看自動駕駛汽車領(lǐng)域。

隨著攝像頭分辨率達到千兆像素，激光雷達系統(tǒng)每秒可發(fā)射數(shù)百萬個激光脈沖，邊緣人工智能可加快反應(yīng)時間，并增強安全性。例如，Waymo已擴展模擬訓練和評估，以處理罕見的駕駛情況。與此同時，理想汽車預(yù)計其端到端模型將在今年年底前從超過500萬個駕駛數(shù)據(jù)片段中學習。

同樣，隨著人工智能市場的快速增長，實時邊緣人工智能已成為提高效率和減少停機時間的關(guān)鍵。在繁忙的汽車生產(chǎn)車間：智能傳感器會立即標記溫度峰值或機械應(yīng)力，使團隊能夠在問題升級之前防止中斷。從汽車行業(yè)汲取靈感，蔚來的NWM（NIO世界模型）展示了超快速AI預(yù)測的強大功能。同樣，基于邊緣AI的分析可以以驚人的精度檢測生產(chǎn)線上的微缺陷。

通過結(jié)合速度、可靠性和設(shè)備智能，實時數(shù)據(jù)處理正在改變自動駕駛汽車的標準實踐，為全面更具適應(yīng)性、更高效的未來鋪平了道路。

邊緣AI之所以對自動駕駛汽車如此重要，主要有三個原因：

邊緣系統(tǒng)減少了對云中繼的依賴，實現(xiàn)了50ms以下的防撞響應(yīng)時間，這對于處理行人突然橫穿馬路，或高速公路突發(fā)事件尤為關(guān)鍵。

邊緣AI使得自動駕駛汽車或半自動駕駛汽車即使在蜂窩盲區(qū)，也能保持安全功能（例如車道保持、自適應(yīng)巡航控制）。5G汽車協(xié)會（5GAA）更新的蜂窩車聯(lián)網(wǎng)（C-V2X）技術(shù)路線圖，強調(diào)了混合V2X架構(gòu)，該架構(gòu)將邊緣處理與5G-V2X直接通信相結(jié)合。邊緣AI硬件和傳感器融合算法，使自動駕駛汽車能夠?qū)�決策延遲縮短30-40%，實現(xiàn)低至20-50毫秒的響應(yīng)時間。

集成來自攝像頭、激光雷達和雷達等邊緣設(shè)備的數(shù)據(jù)可以提高感知可靠性，實現(xiàn)安全導航。例如，Innoviz的2024年激光雷達升級版采用了邊緣優(yōu)化的神經(jīng)網(wǎng)絡(luò)，以每秒20幀的速度處理點云數(shù)據(jù)，最大限度地減少了障礙物檢測的延遲。

接著來看制造業(yè)。

生產(chǎn)線每天可以生成大量數(shù)據(jù)，有研究顯示，智能工廠每周生成超過5PB的數(shù)據(jù)。邊緣AI系統(tǒng)可以在本地處理這些信息，提供即時洞察和自動響應(yīng)。邊緣AI的影響體現(xiàn)在三個關(guān)鍵領(lǐng)域：預(yù)測性維護、質(zhì)量控制系統(tǒng)和流程優(yōu)化。

據(jù)報道，利用實時傳感器數(shù)據(jù)分析的預(yù)測性維護系統(tǒng)可將維護成本降低30%，并將停機時間減少45%。通過持續(xù)監(jiān)控設(shè)備性能，邊緣AI算法可以在細微異常和潛在故障發(fā)生之前檢測到它們，從而實現(xiàn)主動維護并最大限度地減少意外停機時間。

在質(zhì)量方面，邊緣AI通過實時檢查和缺陷檢測增強了質(zhì)量控制。例如，一家大型食品飲料制造商在邊緣部署了視覺AI，用于質(zhì)量檢查和閉環(huán)質(zhì)量控制。該系統(tǒng)持續(xù)監(jiān)控產(chǎn)品差異并建議調(diào)整設(shè)備設(shè)置，將檢查周期縮短50-75%，并提高準確性。

第三，在醫(yī)療保健領(lǐng)域，本地化AI可通過直接在設(shè)備中處理醫(yī)療數(shù)據(jù)，加速診斷并改善患者治療效果。

例如，邊緣AI驅(qū)動的遠程患者監(jiān)測設(shè)備（如便攜式心電圖和血壓監(jiān)測儀）可以實時分析心律和生命體征。這些設(shè)備（例如由AliveCor和Biobeat開發(fā)的設(shè)備）使臨床醫(yī)生無需等待基于云的分析即可檢測心律失常和其他異常情況，從而縮短危急情況下的響應(yīng)時間。

第四，邊緣AI正在通過實時行為分析優(yōu)化店內(nèi)運營并增強客戶體驗，從而改變零售業(yè)。

AI驅(qū)動的智能貨架和結(jié)算系統(tǒng)可在本地處理客戶互動，分析購買模式并調(diào)整庫存預(yù)測，而無需依賴云同步。零售商正在部署AI驅(qū)動的視頻分析來檢測客流量異常、監(jiān)控庫存水平并減少結(jié)賬時間，從而提高效率并降低運營成本。

在運營方面，基于人工智能的智慧零售已經(jīng)在2025年展現(xiàn)出應(yīng)用前景。人工智能驅(qū)動的計算機視覺可以實現(xiàn)完全的非接觸式交易，將平均結(jié)賬時間縮短30%。Amazon Fresh已經(jīng)通過在貨架或手推車上安裝攝像頭，在顧客離開時自動結(jié)賬，并提供實時消費預(yù)覽。

亞馬遜的Just Walk Out（JWO）系統(tǒng)是零售業(yè)邊緣AI的典范，它集成了傳感器陣列、設(shè)備分析和高級機器學習模型。所有計算都在定制邊緣硬件上本地處理，實現(xiàn)實時決策，并提高客戶便利性和運營效率。

第五，邊緣AI與物聯(lián)網(wǎng)傳感器集成，通過直接在配送中心、倉庫和運輸樞紐處理物流數(shù)據(jù)，增強了物流的智能化。

智能傳感器無需將大量信息傳輸?shù)郊�中式服�?wù)器，而是現(xiàn)場分析溫度波動、運動異常和庫存短缺，并在出現(xiàn)偏差時觸發(fā)即時警報。例如，P&O Ferry masters使用人工智能驅(qū)動的船舶裝載程序?qū)⒇涍\能力優(yōu)化了10%，從而保持了整個供應(yīng)鏈的實時可見性。此外，人工智能驅(qū)動的預(yù)測有助于減少20%的物流費用。

最后，邊緣AI正在幫助智慧農(nóng)業(yè)擴大精準種植，以滿足全球不斷增長的糧食需求。

預(yù)計到2050年，全球人口將達到98億，農(nóng)業(yè)必須智能地擴大規(guī)模，以滿足不斷增長的糧食需求，同時最大限度地減少對環(huán)境的影響。邊緣人工智能使農(nóng)場能夠在不增加復(fù)雜性的情況下擴大其技術(shù)覆蓋范圍，分析土壤條件，監(jiān)測天氣模式，并實施自動化灌溉系統(tǒng)。

先進的傳感器和AI模型無需將數(shù)據(jù)發(fā)送到遠程服務(wù)器，而是在檢測到土壤濕度或害蟲活動等因素時對其進行評估，從而迅速采取干預(yù)措施。CrackSense等項目展示了實時傳感如何確保柑橘、石榴和葡萄等作物的果實質(zhì)量，減少災(zāi)害和浪費。

配備邊緣人工智能的智能灌溉系統(tǒng)已顯示出成效，可根據(jù)局部土壤水分分析動態(tài)調(diào)整水分配，減少25%的用水量。同樣，人工智能驅(qū)動的害蟲檢測可減少30%的農(nóng)藥使用量，確保精準農(nóng)業(yè)，最大限度地減少浪費。

邊緣AI生態(tài)系統(tǒng)：三層架構(gòu)下的協(xié)同創(chuàng)新

當今的邊緣AI生態(tài)系統(tǒng)正處于一個關(guān)鍵階段：項目的成功取決于硬件供應(yīng)商、軟件開發(fā)商、云提供商和行業(yè)利益相關(guān)者的共同協(xié)作。這種狀態(tài)可能將會持續(xù)較長的一段時間，因此企業(yè)之間的互相協(xié)同成為重點。

如果沒有互操作性標準、可擴展的部署模型和共享的研發(fā)工作，邊緣AI就有可能出現(xiàn)碎片化，從而限制其在制造業(yè)、醫(yī)療保健和物流等關(guān)鍵領(lǐng)域的應(yīng)用。

邊緣AI的生態(tài)系統(tǒng)普遍公認采用三層架構(gòu)，將計算工作負載分配到邊緣設(shè)備、邊緣服務(wù)器和云平臺。這種結(jié)構(gòu)允許AI模型在邊緣執(zhí)行實時推理，同時在需要時利用更高的計算能力。每一層在處理、匯總和優(yōu)化數(shù)據(jù)以進行智能決策方面發(fā)揮著獨特的作用。

邊緣設(shè)備與終端設(shè)備是與現(xiàn)實世界數(shù)據(jù)交互的第一個點。這些設(shè)備包括部署在制造業(yè)、醫(yī)療保健、汽車和零售環(huán)境中的物聯(lián)網(wǎng)傳感器、工業(yè)機器人、智能攝像頭和嵌入式計算系統(tǒng)。它們的主要功能是低延遲AI推理——無需依賴持續(xù)的云連接即可在現(xiàn)場處理數(shù)據(jù)。

邊緣服務(wù)器充當邊緣設(shè)備和云之間的計算中介。這些服務(wù)器通常部署在工廠、醫(yī)院、零售店和自動駕駛汽車網(wǎng)絡(luò)中，用于匯總來自多個來源的數(shù)據(jù)，并執(zhí)行更為復(fù)雜的AI工作負載。邊緣服務(wù)器的一個關(guān)鍵優(yōu)勢是本地化AI推理：無需將數(shù)據(jù)卸載到遠程數(shù)據(jù)中心即可運行更重的模型。這減少了與云依賴相關(guān)的延遲、帶寬成本和安全風險。

這里需要區(qū)分邊緣計算和終端設(shè)備，盡管從整體上他們可以歸為一類，但由于功耗、尺寸和算力等約束條件截然不同，“邊緣”和“終端”具有顯著區(qū)別，不能使用同一個思路處理。邊緣設(shè)備（例如嵌入式攝像頭或工業(yè)傳感器）專為低功耗AI推理而設(shè)計，而功能更強大的邊緣服務(wù)器則充當中介，在將數(shù)據(jù)轉(zhuǎn)發(fā)到云端之前，處理復(fù)雜的AI工作負載。

云對于模型開發(fā)、大規(guī)模數(shù)據(jù)分析和存儲仍然至關(guān)重要。它是深度學習模型在優(yōu)化和部署到邊緣之前進行訓練的支柱。經(jīng)過訓練后，AI模型將部署到邊緣設(shè)備和邊緣服務(wù)器，在生產(chǎn)環(huán)境中執(zhí)行推理任務(wù)。云還充當AI模型監(jiān)控、分析和集中編排的骨干，確保部署在數(shù)千甚至數(shù)百萬個邊緣端點上保持高效。

雖然三層架構(gòu)涵蓋了邊緣AI的全貌，但是企業(yè)之間的跨界合作正在更加密切的進行。

半導體公司正在與AI開發(fā)人員合作以提高專用硬件上的模型效率；云提供商正在集成邊緣原生計算解決方案；研究機構(gòu)正在與行業(yè)領(lǐng)導者合作推進可擴展架構(gòu)。

在硬件和云協(xié)作方面，英特爾通過其邊緣AI合作伙伴支持包推動邊緣AI的采用，該計劃為企業(yè)提供工具、框架和技術(shù)資源，以加速邊緣AI的部署。

另一項值得注意的合作涉及高通和Meta，他們致力于將Meta的Llama大型語言模型直接集成到高通的邊緣處理器上。這種合作關(guān)系減少了對基于云的LLM的依賴，使設(shè)備能夠在現(xiàn)場執(zhí)行生成AI工作負載。

MemryX和Variscite也宣布建立了合作伙伴關(guān)系，旨在提高邊緣AI效率。通過將MemryX的AI加速器與Variscite的系統(tǒng)模塊（SoM）解決方案相結(jié)合，簡化了邊緣設(shè)備上的AI部署，尤其針對工業(yè)自動化和醫(yī)療保健的應(yīng)用。

Google與Synaptics合作開發(fā)了邊緣人工智能系統(tǒng)。Google的Kelvin MLIR兼容機器學習核心將集成到Synaptics Astra AI-Native IoT計算平臺中。兩家公司將共同努力，為可穿戴設(shè)備、家電、娛樂和監(jiān)控等應(yīng)用定義IoT Edge情境感知計算多模式處理的最佳實現(xiàn)。

政產(chǎn)學研合作在推進邊緣AI研究和部署方面發(fā)揮著至關(guān)重要的作用，一些國家推出了邊緣AI的試點項目和協(xié)作平臺。

在英國，國家邊緣人工智能中心是一個協(xié)作平臺，聯(lián)合學術(shù)界、工業(yè)界和公共部門推進邊緣人工智能技術(shù)。該中心由紐卡斯爾大學牽頭，匯集了來自英國各地機構(gòu)的多學科團隊，其使命是提高醫(yī)療保健和自動駕駛電動汽車等時間關(guān)鍵型應(yīng)用的數(shù)據(jù)質(zhì)量和決策準確性。

同樣，美國國家科學基金會的NAIRR試點項目是一項旨在實現(xiàn)AI普及的大型計劃。英特爾、英偉達、微軟、Meta、OpenAI和IBM等行業(yè)參與者為開發(fā)安全節(jié)能的AI應(yīng)用程序的研究人員貢獻了計算能力和AI工具。

從聯(lián)邦學習到神經(jīng)形態(tài)計算：邊緣AI的5大前沿趨勢

技術(shù)的發(fā)展日新月異，邊緣AI的5個新興趨勢正在重塑人工智能系統(tǒng)，包括聯(lián)邦學習、邊緣原生AI模型、量子增強智能和邊緣生成AI。這些趨勢彼此結(jié)合，讓自動駕駛汽車可以相互訓練，無需依賴集中式數(shù)據(jù)集；醫(yī)院可以部署基于患者數(shù)據(jù)實時演進的AI模型，確保高度個性化的治療；工業(yè)機器人將以預(yù)測智能運行，在故障發(fā)生之前檢測并修復(fù)。

神經(jīng)形態(tài)計算、多智能體強化學習和后量子密碼學等領(lǐng)域的新興創(chuàng)新也在重新定義邊緣AI的各種可能性，使人工智能系統(tǒng)變得更快、更安全、效率更高。

1. 聯(lián)邦學習：邊緣的去中心化智能

聯(lián)邦學習（FL）正在從隱私保護發(fā)展成為去中心化智能的基石。未來5年，聯(lián)邦框架有望積極增強模型適應(yīng)性、自主性和跨行業(yè)協(xié)作。市場預(yù)測到2030年，聯(lián)邦學習有望實現(xiàn)近3億美元的市場價值，預(yù)計復(fù)合年增長率為12.7%。

聯(lián)邦學習演進的另一個主要驅(qū)動力是與6G等下一代網(wǎng)絡(luò)的集成。隨著邊緣部署規(guī)模的擴大，超低延遲網(wǎng)絡(luò)將使AI模型能夠更有效地在分布式設(shè)備之間同步，從而減少優(yōu)化和部署更新所需的時間。量子聯(lián)邦學習（QFL）的出現(xiàn)也正在被探索，以減少設(shè)備之間的通信負擔，使大規(guī)模物聯(lián)網(wǎng)網(wǎng)絡(luò)的通信過程更加高效。

2. 邊緣量子計算和量子神經(jīng)網(wǎng)絡(luò)

量子計算將重新定義邊緣AI的功能。雖然當今的邊緣AI依賴于優(yōu)化的深度學習模型和低功耗硬件加速器，但量子計算引入了一種完全不同的方法：利用量子態(tài)來處理指數(shù)級增大的數(shù)據(jù)集，并以傳統(tǒng)方法無法達到的速度優(yōu)化決策。隨著量子處理單元（QPU）超越基于云的基礎(chǔ)設(shè)施，混合量子-經(jīng)典AI將在邊緣出現(xiàn)，增強金融、醫(yī)療保健、能源和工業(yè)自動化等行業(yè)的實時決策能力。

量子神經(jīng)網(wǎng)絡(luò)（QNN）是一種新型AI模型，它利用量子特性來檢測數(shù)據(jù)中的模式和關(guān)系，而“傳統(tǒng)AI”則難以做到這一點。與需要增加功率和內(nèi)存來提高性能的現(xiàn)有神經(jīng)網(wǎng)絡(luò)不同，QNN可以以更緊湊、更高效的方式處理信息。

到目前為止，量子計算由于其硬件要求（包括極端冷卻）而僅限于基于云的數(shù)據(jù)中心。然而，移動QPU的最新進展很可能使在室溫下運行量子算法成為可能。在未來幾年，量子計算將不僅限于云端，還可以嵌入到邊緣的自主系統(tǒng)、工業(yè)機器人和物聯(lián)網(wǎng)設(shè)備中。

3. 自主人形機器人的邊緣人工智能

人形機器人的下一階段將由具身智能定義，其中人工智能模型變得更具適應(yīng)性、響應(yīng)性，并能夠自我改進。

在零售環(huán)境中，人形機器人可以通過回答口頭詢問、分析面部表情和瀏覽商店布局來協(xié)助消費者。同時，在醫(yī)院和養(yǎng)老院中，人工智能機器人可以監(jiān)測患者、協(xié)助行動并檢測可能預(yù)示醫(yī)療緊急情況的細微行為變化，所有這些都通過設(shè)備端處理來確保數(shù)據(jù)隱私和安全。

4. 人工智能驅(qū)動的AR/VR：下一個進化方向

增強現(xiàn)實（AR）和虛擬現(xiàn)實（VR）已不再局限于游戲和娛樂，邊緣AI是這一發(fā)展的關(guān)鍵推動因素。下一代AR/VR設(shè)備將在本地處理信息，從而實現(xiàn)實時響應(yīng)并提高能源效率。

AI驅(qū)動的空間計算將允許AR眼鏡和VR耳機根據(jù)上下文動態(tài)調(diào)整疊加、深度感知和環(huán)境交互。

在工業(yè)環(huán)境中，這意味著AR驅(qū)動的工作空間將為工程師提供免提、AI生成的指令，這些指令可實時適應(yīng)現(xiàn)實世界的情況。在醫(yī)療保健領(lǐng)域，AR輔助手術(shù)將集成AI能力，以提高精度，根據(jù)外科醫(yī)生的動作在幾毫秒內(nèi)更新，而不會出現(xiàn)云引起的延遲。

5. 神經(jīng)形態(tài)計算：低功耗人工智能的未來

通過引入大腦啟發(fā)式架構(gòu)，神經(jīng)形態(tài)計算有望在邊緣AI領(lǐng)域變得越來越流行，這些架構(gòu)在能源效率和處理能力方面具有顯著優(yōu)勢。與將內(nèi)存和處理單元分開的傳統(tǒng)計算系統(tǒng)不同，神經(jīng)形態(tài)系統(tǒng)集成了這些功能，模仿了人腦的并行和事件驅(qū)動特性。這種設(shè)計使它們能夠以最小的能耗處理復(fù)雜的實時數(shù)據(jù)處理任務(wù)，使其成為邊緣應(yīng)用的理想選擇。

例如，2022年《自然》雜志的一項研究中推出的NeuRRAM芯片模擬計算架構(gòu)的能效，是最先進的“內(nèi)存計算”芯片的兩倍，可以在沒有云連接的情況下在邊緣設(shè)備上執(zhí)行復(fù)雜的認知任務(wù)。這一飛躍反映了從臺式電腦到智能手機的轉(zhuǎn)變，解鎖了曾經(jīng)被認為不可能的便攜式應(yīng)用程序。

研究和早期商業(yè)部署表明，神經(jīng)形態(tài)芯片可以重新定義智能在邊緣的部署方式。

寫在最后

邊緣AI正在重塑各行各業(yè)，從自動駕駛汽車到智能制造，從醫(yī)療保健到零售物流，再到智慧農(nóng)業(yè)。通過將人工智能的力量帶到數(shù)據(jù)源頭，邊緣AI實現(xiàn)了前所未有的實時洞察、自主決策和資源優(yōu)化。

它的崛起標志著人工智能從集中式云模型向分布式智能的根本性轉(zhuǎn)變。

隨著邊緣AI生態(tài)系統(tǒng)的不斷成熟，創(chuàng)新的步伐正在加快。從聯(lián)邦學習到神經(jīng)形態(tài)計算，從量子增強智能到人工智能驅(qū)動的增強現(xiàn)實，前沿技術(shù)正在重新定義邊緣AI的可能性。展望未來，邊緣AI有望成為推動行業(yè)變革和社會進步的關(guān)鍵力量。

       原文標題 : 2025邊緣AI報告:實時自主智能,從范式創(chuàng)新到AI硬件的技術(shù)基礎(chǔ)