Agentic AI革新邊緣運算！恩智浦 (NXP) 如何打造智能自動化新時代？
恩智浦半導體 ( NXP Semiconductors ) 執行副總裁 Jens Hinrichsen 在 Computex 的演講中指出，人工智慧 ( AI ) 是實現自主未來，讓機器能夠預測、自動化、感知、思考、協作並獨立執行複雜任務的單一最大創新。這個自主世界不再是科幻小說，正處於成為現實的邊緣，並將影響我們所有人。
Hinrichsen 強調，AI 將成為我們周遭物理世界（ 即所謂的邊緣 (Edge) ）的一部分。為了充分發揮 AI 的巨大潛力，它必須透過邊緣AI完成。
邊緣 AI 的重要性：為何不能全靠雲端
我們生成的海量資料是 AI 必須轉移到邊緣的關鍵原因。預計今年全球將產生 180 ZB ( Zettabytes ) 的資料 ( 1 ZB 等於 1 後面接著 21 個零，即一兆 GB )。過去三年產生的資料量已超過人類歷史總和，且增長速度不減。這些資料來自工廠、汽車、家庭、穿戴裝置、城市等各地。然而，大部分資料並未被利用。
單靠雲端無法處理所有這些資料。我們每天從數百萬個邊緣裝置產生約 半兆 GB 的資料。一輛現代汽車每天可產生高達 4 TB 的資料。問題不在於減少資料量，而在於如何處理資料並提取其真正價值。將所有資料傳送到雲端進行即時決策是不可行的，原因包括延遲和成本。我們需要的頻寬大約是現有的 一千倍 才能將所有資料傳送至雲端。我們的物理世界太過龐大，無法完全上傳到雲端。
因此，解決方案是將 AI 帶到邊緣，使其對我們的日常生活有用。邊緣 AI 將打破基於雲端的封閉式應用案例限制。我們需要在資料創建的地方進行智慧資料處理 ( intelligent data processing )。
邊緣 AI 的優勢
邊緣 AI 帶來了切實的好處：
- 顯著減少資料傳輸：由於處理在邊緣完成，只需上傳或傳輸非常關鍵的元資料至雲端。
- 無需持續的雲端連線：這在網路覆蓋有限的遠端區域尤其重要。
- 即時能力：許多現實生活中的過程必須即時發生，例如自動駕駛汽車在壅塞交通中、智慧城市中的即時交通控制或智慧手錶偵測健康異常。邊緣處理避免了往返雲端的延遲。
- 能源效率：邊緣硬體已針對能源效率進行優化。在邊緣執行一千次浮點計算所需的能量，與傳送單一位元資料到雲端所需的能量相同。傳送到雲端的資料越少，消耗的能量越少。
- 提升信任、安全和資料隱私：邊緣 AI 通過在資料生成的地方直接處理資料，降低了網路安全風險。資料分散在許多邊緣裝置中，而非集中在雲端的單一位置，這使得駭客攻擊效率低下。邊緣概念顯著減少了攻擊面。信任包含安全、保全和個人資料隱私。
AI 的快速演進與邊緣應用的加速
AI 在邊緣的應用正加速發展。AI 的演進經歷了幾個階段：
- 1、感知 AI ( Perception AI )：能夠感知和即時解讀來自現實世界的訊號。它可以偵測物體或人，並辨識身份和物品。這使得邊緣變得「有感知」。神經網路的進步使其在資源受限的邊緣裝置上也能實現準確偵測和辨識。將感知 AI 帶到邊緣花了大約 10 年的時間。
- 2、生成式 AI ( Generative AI, Gen AI )：基於 Transformer 模型，能夠以自然的方式與人類互動，創建圖像、程式碼、文本或其組合。Gen AI 約在 2021 年開始大規模普及。雖然 Gen AI 在雲端取得了巨大進展，但由於模型變得越來越小、更節能，它也極大地受益於邊緣。Gen AI 使邊緣變得「互動」並能夠「思考」。將 Gen AI 帶到邊緣花了大約 5 年的時間。
- 3、代理式 AI ( Agentic AI )：這是最新且最具變革性的演進，也是一種新的典範轉移。代理式 AI 最接近人類的功能，它感知 ( Sense )、思考 ( Think ) 和 行動 ( Act )。它將所有先前的 AI 演進結合起來，創造了一個從被動轉為主動的邊緣。代理式 AI 獨立感知、思考和行動，即時回應現實世界。它評估決策，進行微調，並安全可靠地執行行動。
代理式 AI：實現自主邊緣的關鍵
代理式 AI 使自主邊緣 ( Autonomous Edge ) 成為可能。邊緣 AI 的真正價值在於自主性，當系統成為人類的伴侶時。
代理式 AI 不僅僅是一個模型，而是一個為自主性而建構的軟體工作流程。它始於一個或多個 AI 代理。每個代理都由 AI 模型（感知、生成式或兩者）驅動，並為非常特定的任務而建構。代理式 AI 代理不僅執行任務，它們還從經驗中學習和演進。這種持續學習 ( continuous learning ) 是代理式 AI 的革命性之處。它們從現實生活經驗中學習，不再僅限於最初訓練的資料集。
當這些 AI 代理協作時，它們可以實現一個總體目標。AI 代理的協作需要協調，這由AI 編排代理 ( AI orchestrator agent ) 來完成。編排代理是專門用於監督、規劃和協調的代理。它就像智能系統的專案經理，將許多代理整合成一個統一的形式。
一個實際案例是在工廠車間。一個代理式 AI 系統被設定目標，即監測並回應任何異常情況以保護人員安全。水分感測器和攝影機（ 作為 AI 代理 ）偵測到洩漏，編排代理隨即啟動，觸發其他代理行動，例如關閉漏水管道的水源、封鎖區域等。編排代理還可能觸發清理並通知所有人。該系統根據設定的目標進行規劃和行動，同時利用回饋對應和強化學習從經驗中學習。這是一個能夠思考、適應和行動的系統，就像人類在這種情況下會做的那樣。
代理式 AI 工作流程是一個高度可擴展的軟體原型。相同的底層軟體原型可以擴展到無數的應用和使用案例。這意味著我們可以更快地建構智能自主系統，並將其部署到幾乎所有可以想到的使用案例中。例如，汽車領域的自我修復車載網路、農業領域的精準農業，或智慧建築中根據佔用模式調整氣候控制、電動車充電和照明。這種可擴展性將進一步加速 AI 在邊緣的部署。
實現自主邊緣的工程挑戰
建構自主邊緣並非易事。需要克服以下根本性的工程挑戰：
- 1、複雜的整合：邊緣 AI 系統不能孤立運作。它們需要完整的硬體和軟體解決方案來涵蓋感知、思考和行動。這需要處理、連接、電源管理、安全和安全功能整合在一起。還需要量身定制的軟體基礎來實現硬體功能。邊緣系統實際上是「系統中的系統」。
- 2、AI 必須針對邊緣進行「適當規模化」( right-sized )：為雲端開發的模型通常對於邊緣應用來說太大、太耗電、太複雜。它們必須針對邊緣的限制進行調整。此外，新的模型、框架和工具鏈不斷湧現，邊緣解決方案需要不斷跟進。
- 3、自主性提高了信任的要求：自主決策提高了對安全和保全的標準。必須達到最高等級的功能安全 ( functional safety ) 和最高等級的保全 ( security )。需要保護自主系統免受網路攻擊。任何資料漏洞或安全漏洞都極為關鍵。
恩智浦如何實現自主邊緣
作為半導體供應商，恩智浦提供解決方案來克服這些挑戰：
- 1、可擴展的硬體整合 ( Scalable hardware building blocks )：提供從微控制器到高效能 MPU 的處理平台。整合電源管理以實現最大能源效率，以及安全可靠的網路和連接能力。這些模組化的硬體整合可以根據個別邊緣使用案例的需求進行客製化配置。
- 2、全面的軟體基礎 ( Comprehensive software foundation )：提供完整的軟體基礎，包括函式庫、驅動程式、中介軟體，以實現硬體功能並橋接應用軟體。提供多樣化的中介軟體解決方案，涵蓋語音、圖形、視覺、低功耗、觸控、感測、馬達控制等。
- 3、用於適當規模化 AI 的工具包 ( Toolkit for right-sizing AI )：提供 eIQ 工具包，用於模型開發和部署。客戶可以引入他們的模型和資料，並對其進行適當規模化和優化，使其適用於特定的邊緣裝置。該工具包還支援邊緣裝置的持續更新。
- 4、功能安全與保全的專業知識：憑藉在汽車和工業領域的專業知識，恩智浦提供最高等級的功能安全解決方案，涵蓋系統、硬體、軟體和應用層面。安全是恩智浦的 DNA，源於其在護照、信用卡和手機錢包業務的經驗。安全需要端到端的組合措施，恩智浦將最高等級的安全標準應用於邊緣裝置。恩智浦已將後量子密碼學 ( post-quantum cryptography ) 建置到產品中，以確保安全的前瞻性。
- 5、策略性收購：恩智浦近期宣佈有意收購三家公司，以增強其自主邊緣能力。Kinara 提供業界領先的獨立 MPU，非常適合在邊緣實現代理式 AI。Aviva Links 提供高頻寬異步資料傳輸能力。TT Tech Auto 是一家提供安全關鍵中介軟體平台的軟體公司。
生態系統與協作
實現自主邊緣不僅是一家公司能獨立完成的。這需要集體努力和廣泛的生態系統，包括 OEM、系統整合商、雲端服務供應商、半導體供應商、合作夥伴和開發者。恩智浦與其合作夥伴共同努力，使自主性在現實世界中變得真實、可擴展且值得信賴。Honeywell 作為恩智浦在工業物聯網領域的關鍵合作夥伴，正在其解決方案和工廠中實施領先的邊緣 AI 技術，以解決資產效能、勞動力短缺和營運效率等挑戰。
結論
過去 25 年的創新顯示，邊緣 AI 正從感知 AI 演進到代理式 AI，並加速進入邊緣。邊緣與雲端將持續並存。自主邊緣是未來的趨勢，代理式 AI 指明了道路。然而，自主性只有在我們信任它時才能擴展，因此必須將安全和保全內建其中。
AI 正成為我們日常生活的一部分。在邊緣，這一切匯聚在一起，變得真實。邊緣是物理世界與數位世界的交匯處，AI 在此與現實世界相遇。
恩智浦及其合作夥伴正努力將這個自主未來變成現實，讓機器能夠預測和自動化，並成為我們日常生活中智能的伴侶。創新永不止步，恩智浦將持續與合作夥伴一起應對下一個 AI 演進浪潮。
*本文章來自：AIPOST，經作者同意轉載
