【導讀】當中國I&O領導者紛紛將AI推向邊緣，一個尷尬現狀浮出水面：許多已部署的邊緣AI項目并未達到預期。究其原因，并非技術不成熟，而是方法錯了——簡單“搬運”云端AI棧或急于部署生成式AI，往往導致投資沉沒。Gartner指出，成功實施并非線性擴展，而需從場景匹配、分布式設計到持續演進進行系統性重構。面向中國快速變化的環境，I&O領導者亟需厘清四個常見誤區，重新定義邊緣AI的落地路徑。
中國的I&O領導者需要明白，成功的邊緣AI實施并非只是簡單地對現有云或邊緣基礎設施進行擴展。實際上，其成功實施的前提包括：為正確的邊緣場景匹配正確的AI技術、針對分布式運營進行設計，以及建立能夠持續適應變化的運營模式等等。Gartner闡述了常見的邊緣AI實施誤區，并為中國I&O領導者提供了相應措施，以避免踏入這些誤區。
不要采取“AI+邊緣”方法，而應從“邊緣+AI”出發
邊緣AI部署中的第一個常見誤區，就是采用“AI+邊緣”的方法，即優先關注在邊緣站點部署AI技術，而沒有首先考慮邊緣計算應解決的獨特業務需求。同時，中國I&O領導者也往往面臨業務壓力或同行壓力，希望快速取得成果。因此，他們可能會首先在邊緣側部署一體化生成式AI基礎設施棧，然后再嘗試尋找合適的現有業務場景或創造新的應用場景，希望借此獲得業務成功。然而，這種做法經常導致投資損失，因為它忽視了邊緣環境真正需要解決的具體業務場景和運營挑戰。最終，企業往往會得到利用率不高或與業務需求不匹配的解決方案，無法創造有意義的業務價值。
為了避免這一問題，I&O領導者應采取“邊緣+AI”方法，即首先清晰理解哪些業務問題和業務機會最適合在邊緣解決，并據此定義邊緣用例（見圖1）。
圖1：邊緣計算用例分類
在選定邊緣用例之后，I&O領導者應與業務利益相關者共同探索各種邊緣AI技術，并選擇最適合的解決方案。在這一過程中，可以運用設計思維（見圖2）來推進整體流程。
不要將邊緣AI視為基礎設施，而應采用平臺化和產品化思維以實現業務價值
第二個常見誤區是，許多中國I&O領導者將邊緣AI視為等同于基礎設施交付的項目，按照傳統的“規劃-建設-運行-改進”線性周期來推進。這種傳統方法往往導致交付速度緩慢，并且難以適應不斷變化的業務需求，尤其是在成熟但變化迅速的中國市場環境中。
為有效管理邊緣AI，I&O領導者應將其視為需要持續改進的平臺化產品，而非一次性的基礎設施擴展。
為持續演進做好準備：為模型、數據源、站點環境以及業務優先事項在初始部署后的持續變化做好預期。
建立平臺責任人和協作機制：I&O領導者未必始終直接對平臺負責。在很多情況下，他們協助構建平臺，并與業務部門共同對平臺負責。因此，重要的是明確角色與職責，為產品或平臺指定領導者（或聯合領導者），負責路線圖決策、發布優先級以及業務價值交付。
基于業務反饋進行持續改進：持續改進依賴于運營團隊和業務利益相關者的意見。因此應定期收集反饋信息，以優化用例、調整性能目標并識別支持需求，確保平臺持續滿足現實業務需求。
建立持續更新機制：定義模型、軟件組件和依賴項在分布式站點中的測試、發布和監控流程。同時利用看板（Kanban）或Scrum等敏捷方法保持平臺持續更新。
衡量價值與擴展就緒度：跟蹤模型性能、運營穩定性、服務水平和業務成果，以指導未來的擴展決策。
不要只依賴“云外展”，而應結合“邊緣匯入”方法
中國I&O領導者在部署邊緣AI時面臨的第三個誤區是優先采用“云外展”方法，而忽視“邊緣匯入”方法的價值。“云外展”模式從云端出發，將解決方案延伸至邊緣；而“邊緣匯入”模式則從邊緣出發，首先滿足本地需求，然后再與云端進行連接。
為應對這一挑戰，I&O領導者應：
在部署模型時同等對待云和邊緣：將云和邊緣視為相輔相成的環境，而不是一種由云主導、邊緣僅負責擴展云工作負載的層級關系。云環境可被用于模型訓練、大規模數據整合、企業級系統集成和統一的全局業務報告。
將邊緣定義為本地智能執行層：利用邊緣環境執行實時數據處理、即時推理以及對敏感本地數據的快速分析。這種方法有助于降低延遲、保護本地數據，以及加快運營決策。
僅將有價值的脫敏數據上傳至云端：不要默認將所有原始邊緣數據都發送到云端。相反，應在本地先完成數據過濾、數據整合和數據脫敏，然后再將數據上傳至云端，以用于企業級數據整合、模型優化和全局業務洞察。
在邊緣部署前對云端訓練模型進行調整：不要假設在云端訓練的模型無需修改即可直接運行于邊緣環境。應針對邊緣環境中的計算能力、存儲容量、電力條件和網絡條件進行優化調整。
采用量化、剪枝和蒸餾技術來調整模型：通過降低模型的規模和復雜度，使推理能夠在邊緣服務器、網關設備、工業PC和嵌入式設備中穩定運行，即使資源條件受限。
在正式投產前驗證軟硬件兼容性：根據芯片、AI加速器、操作系統、中間件和設備驅動程序對模型進行測試，以避免出現系統不穩定、性能下降和集成失敗的情況。
在本地運營環境中測試邊緣AI的性能，包括網絡中斷、設備故障、異常數據輸入、業務流程異常等。
不要將邊緣AI誤認為僅僅是邊緣生成式AI
中國I&O領導者在部署邊緣AI時面臨的第四個誤區，是認為邊緣AI僅限于邊緣生成式AI。這種誤解通常源于許多I&O領導者并非AI專家，而且在2022年底ChatGPT火爆之前接觸AI的機會相對有限。此外，來自業務和IT高管的壓力也進一步強化了將邊緣AI僅與邊緣生成式AI掛鉤的傾向。
邊緣AI并不僅僅是生成式AI，而是涵蓋廣泛的AI和機器學習技術，以滿足各種邊緣應用場景的需求。許多邊緣場景都對低延遲、確定性行為、高效利用資源和可預測的運營結果提出了要求。在這些場景中，傳統AI方法通常更加有效且更具可行性，而生成式模型反而可能引入不必要的成本和復雜性。
為了避免將邊緣AI誤解為僅面向生成式AI，I&O領導者應采取以下措施：
明確邊緣AI的完整范圍：應將邊緣AI視為更廣泛的AI能力集合，而不僅僅是在邊緣部署大語言模型（LLM）或生成式AI。將計算機視覺、傳統NLP、時間序列分析、異常檢測、優化技術、基于規則的推理等技術用于更適合它們的場景中。
從邊緣用例出發，而非從AI類別出發：評估業務場景是否需要低延遲、本地自治、確定性行為、可預測成本，以及在受限資源環境下運行。然后根據這些需求決定哪種方法（生成式AI、傳統AI或基于規則的方法）更合適。
讓D&A、I&O和業務團隊共同參與技術選擇：與D&A團隊或AI團隊共同評估模型適用性；與I&O團隊共同評估部署與支持的約束條件；與業務團隊共同驗證運營價值。這樣能夠降低因市場熱度或供應商影響而盲目選擇生成式AI的風險。
在擴展部署前通過試點進行驗證：在真實站點環境下，通過概念驗證（POC）測試其技術可行性、推理性能、成本、運維負擔、支持需求以及業務影響。避免將僅在理論層面可行、但無法在分布式邊緣環境中穩定運行的方案直接進行推廣。
標準化成功部署模式：在試點驗證成功后，建立可復用的部署指南、參考架構、支持流程和擴展標準。這有助于在多個站點復制已經驗證成功的邊緣AI模式，而不是將生成式AI盲目應用于所有邊緣場景。
