西方企業高管擴展AI，遺留架構拖后腿，6個月人工設計成瓶頸

大多數企業仍把智能體式人工智能當作聊天機器人和副駕駛工具的升級版。這種認知并不準確。一旦智能體從演示走向大規模真實業務流程，成本控制、治理、數據架構和運維方面的薄弱環節會同時暴露出來。

聊天機器人等待提示詞，智能體則不是。它會持續監測狀態、作出決策、調用工具、觸發應用程序接口，并在任務之間不斷循環。這會徹底改變基礎設施的負載特征。

高德納預測，到2027年底前，超過40%的智能體式人工智能項目將被取消，原因包括成本不斷上升、商業價值不明確或風險控制不足。高德納還指出，盡管外界對這類技術提升工作流程和生產率的潛力抱有很高期待，但企業在與遺留系統集成、確保處理數據正確、安全與合規，以及管理其動態成本影響等方面，仍面臨顯著挑戰。

由于令牌使用量直接決定算力賬單，如果缺乏令牌級可視化和預算控制，企業就無法預測一個工作流的成本，更不用說一個業務部門的成本。國際數據公司預測，到2027年，大型企業對人工智能基礎設施成本的低估幅度將達到約30%。目前，大多數企業仍在事后核算人工智能成本，這很容易導致成本失控。

大型企業不會只運行一個人工智能項目，而是會在不同業務部門、區域和產品團隊之間同時推進多個項目。共享基礎設施、不同的訪問策略、相互競爭的工作負載，以及不斷上升的跨租戶錯誤風險，會讓這些項目更加復雜。

裸金屬集群和臨時拼湊的網關并不適合應對這種復雜性，尤其是在分布式環境中。它們往往缺乏企業成功治理人工智能項目所需的許多能力，很少能在大規模場景下提供強有力的租戶隔離、清晰的基于角色的訪問控制或模型級策略控制。因此，治理不是以后再修補的問題，而是當前就必須納入設計的問題。

人工智能技術演進很快，模型需要持續維護。模型在變，圖形處理器代際在更替，服務框架在演進，安全要求也在不斷收緊。依靠一次性工程投入搭建的靜態環境，既跟不上變化，也難以擴展。

這正是成熟組織轉向軟件定義、基于云的運營模式的原因。如果每次硬件更新或模型升級都變成一個小型平臺重構項目，團隊的大部分時間就會耗在維護技術棧上，而不是在其上構建真正有用的系統。如果企業希望把智能體式人工智能投入生產，所需的不只是加速硬件，還需要遵循四項原則的運營模式。

首先，需要一個集中的人工智能控制平面。隨著人工智能在企業內部不斷擴展，組織需要一種統一方式，在不同團隊和環境之間治理模型訪問、路由、預算、可觀測性和策略執行。

基礎設施既要提供性能，也不能造成鎖定。企業需要能夠大規模運行人工智能工作負載，同時保留跨不同硬件和環境部署的自由。這要求具備拓撲感知、隔離能力和生命周期管理能力。

最常見、也最容易讓項目失敗的錯誤，是把智能體式人工智能當作一組項目，而不是企業級平臺。企業為具體用例撥款、部署模型、啟動試點，起初進展看上去很快。但隨著時間推移，不同團隊會采用不同模型、不同安全方法和不同工具。

現代企業基礎設施不應為了部署或驗證一個新模型，就經歷長達6個月的繁瑣人工設計階段。這種定制化、遺留式做法，會在企業最需要敏捷性的時候形成嚴重的基礎設施瓶頸。更具前瞻性的管理者需要的是一個自動化、工業化的框架，也就是真正的“一鍵式人工智能工廠”。

要實現這一點，往往需要一個經過強化的軟件編排層，它能夠無縫接入分布式企業數據集，支持安全的令牌路由，并以安全、可重復的方式生成洞察。這個軟件層不僅要管理數據和模型生命周期，還要提供云原生平臺和具備韌性的虛擬機監控器，以降低底層硬件復雜性。借助經過工程化設計、并已在行業中驗證的參考架構，企業可以在更短時間內搭建起可運行的集群。

這種統一架構讓首席信息官能夠更靈活地平衡混合多云戰略。在公有云側，企業可以利用其動態彈性來承載共享模型和面向公眾的用例。在專用本地基礎設施側，企業則可以保持更強的數據保護、隱私和數據主權控制，以支持對敏感企業知識產權的合規要求。

要讓人工智能能力可持續擴展，技術管理者必須優化物理算力分配。推理，也就是運行中的模型處理請求并生成實時令牌的過程，歷來是任何活躍智能體工作負載中最消耗資源、成本最高的部分。

這種部署策略也為管理者提供了清晰路徑：從單一用例起步，設定明確的性能關鍵指標，啟動有針對性的概念驗證，并從第一天起同步設計采用共享推理的生產基礎設施棧。這樣有助于確保從測試走向正式生產的過程更加順暢，也更具成本效益。

未來3到5年，企業網絡架構預計將經歷顯著的結構性變化。盡管本地數據中心和公有云仍將是關鍵支點，但越來越多算力正直接遷移到邊緣位置，因為數據在那里原生生成，也需要在那里立即采取行動。

我們正在迅速走向多智能體群體協作時代。企業環境預計將從孤立的軟件實例，演變為由大量相互連接的專業化人工智能智能體構成的大型網絡，這些智能體將在邊緣、物理系統和云端廣泛協同工作。

隨著模型變得更緊湊、邊緣數據量持續增長，底層算力拓撲預計還會繼續演變，并采用硅光子等創新技術來實現大規模吞吐。不過，根本任務并沒有改變：組織仍需要一個可靠、安全的平臺層，來運行、編排和防護這些智能系統。

如果企業能夠成功治理這些自主系統，保護它們接觸的數據，并簡化其底層平臺，就有可能在今天已經擁有的基礎設施之上，顯著提升生產率并增加企業價值。

對當代企業高管而言，從倉促推進人工智能到建立工業化基礎設施戰略的轉變，將在未來十年拉開市場領先者與競爭者之間的差距。對于有前瞻性的首席信息官來說，優先事項必須從局部試驗轉向建設統一、可投入生產的環境，正面應對數據引力、成本波動和運維復雜性。

如果架構藍圖能夠圍繞簡潔性、資源效率和穩健治理來設計，企業不僅能穩住當下的試點項目，也能讓員工隊伍和技術體系為明天安全承載自主、多智能體工作負載做好準備。