企业为何抢著采用模型调度工具？原来是 AI 帐单暴增

企业广泛采用Claude Code和Codex等AI程式开发代理工具，却开始面临意外暴增的帐单。这类工具可自动连续工作数小时，反复呼叫先进模型，在使用者不知不觉间耗用数百万个词元。

《财星》（Fortune）报导，一项最新调查显示，62%机构过去一年曾因预料之外的AI费用，实质改变经营决策；其中40%须呈报董事会，33%紧急冻结支出，25%延后或取消AI计划。

为控制成本，AI模型调度工具（model router）迅速受到企业青睐。这类软体可依工作内容，在价格、速度和效能之间选择适合的模型，不必所有工作都采用最昂贵的先进模型，推论成本最多可降低约三成。

OpenRouter、Not Diamond和LiteLLM等新创公司相继投入，Salesforce、Databricks、Meta及Cursor也在发展相关工具。

业者指出，这种模型调度功能未来不只用来节省支出，也可管理资料存取、法遵及单一供应商风险。不过，建立可靠系统并不容易，必须持续监控大量模型连线、处理服务中断及规格变动，并核对资料政策和硬体设定。