7月22日消息,據《The Information》報道,Meta正在內部孵化一款名為Switchboard的模型路由工具,計劃根據任務難度,把簡單請求交給更小、更便宜的模型,較難任務再調用能力更強、價格更高的模型。這一項目仍處于早期階段,可能不會正式發布,Meta拒絕對此置評。
Switchboard來自隸屬于Meta應用AI工程團隊的AAI Labs,這是Meta今年3月成立的應用AI工程團隊(Applied AI Engineering)下設的內部孵化器。報道援引一份7月內部備忘錄稱,AAI Labs目前約有200個獲批項目,覆蓋消費產品、開發工具和內部基礎設施。員工可以通過這個孵化器提出面向內部使用的AI產品和服務,其中一些項目未來也可能向公眾開放。
項目提案直接點出了痛點:Meta目前讓同一個模型處理所有編碼請求,簡單任務也要支付頂級模型的價格;如果統一改用便宜模型,復雜任務的效果又可能受影響。項目團隊希望先給任務難度打分,再決定調用哪一個模型。
按照內部設想,Meta可以先把Switchboard用于公司內部,降低員工使用AI編程工具的成本;如果測試有效,未來也可能面向大規模運行編程智能體的機構開放。
路由工具背后的動機之一是控制成本。Meta 4月把2026年資本開支指引從1150億—1350億美元提高到1250億—1450億美元,原因包括組件價格上漲,以及為擴充未來產能而新增的數據中心建設支出。與此同時,據《The Information》報道,Meta還在建設追蹤AI支出、執行token預算的平臺。
項目文件把推理成本稱為Meta擴大部署智能體的主要障礙。提案認為,多數編碼智能體任務可由小模型處理,只有少數任務需要能力更強、價格更高的前沿模型。
OpenRouter已經把類似思路做成了公開產品。該公司6月披露每月路由量達100萬億token,并完成1.13億美元B輪融資。其Pareto Code Router允許用戶設定編碼質量門檻,再從符合要求的模型中選擇當前最便宜的一款;企業還可以為成員和密鑰設置支出上限。
模型路由也已進入頭部AI產品。OpenAI在GPT-5系統卡中介紹,GPT-5由實時路由器根據對話類型、任務復雜度、工具需求和用戶意圖,在快速模型與深度推理模型之間切換。(易句)
(本文由AI翻譯,網易編輯負責校對)
