蓝天下的公路与远处成排的风力发电机

实验的设定很简单

开源 CMS 项目 Wagtail 的团队给自己定了个目标:整个九月,工程上只用一个模型——GLM 5.3 Flash,一个便宜的、开源权重的快模型。一个月下来总计 2B(20 亿)token。结果有点好笑:上半月目标完全达成,下半月有整整 1B token 跑到了别的模型上。作者给这篇复盘起的标题就是「任务失败但成功了」。

那 68 美元,和一次翻车

先说好的一面:上半月 GLM 5.3 Flash 的用量完全在预算内,约 68 美元,对应 4 kWh 电、365 克碳排放。翻车出在「氛围编程」上——他们那个实验性的 MCP 服务器原型是顺手让模型写的,作者承认当初选错了模型,几乎一夜之间烧掉 450M token / 150 美元 / 5 kWh 电,比目标模型半个月的开销还多。复盘结论是:东西确实做出来了,但同样的结果大概率能用五分之一的成本拿到。

更麻烦的是「排队」

另一个意外来自基础设施。这些便宜的开源模型很受欢迎,但推理供应商的容量,和囤着 GPU 的大实验室不在一个量级。团队明确观察到 GLM 5.3 Flash 的性能出现退化,原因就是它在自家任务的「帕累托前沿」上排得太靠前,大家都去挤。应对办法是把请求切到同档的 DeepSeek V4.1 Flash、Qwen 3.8 Flash——切换本身很简单,意外的是「必须切」。

他们顺手做了一份可用的对标表

为了让「推荐便宜模型」这句话有据可依,团队在 14 个模型上跑了自家任务的评测,同时记录准确率、能耗(Wh)和单任务成本(美元)。榜首是 DeepSeek V4.1 Flash:95% 准确率、14.9 Wh、每任务 0.09 美元。这份表的价值不在排名,而在于它换了一把尺子——按「每个任务多少电、多少钱」来比,而不是按 token 数。整月下来,他们的能耗是 35 kWh,而不是原计划的 10 kWh。

对做企业数字化、小团队的实际启发

四条他们写下来的结论,几乎可以直接抄:一是把用量、电费和花销做成常态化的自动度量,否则你根本不知道自己贵在哪;二是给「试错」单独列预算,别把它混进日常任务的账里,否则一次原型就能吃掉半个月的额度;三是把提示词质量与多智能体分工(编排、侦察、执行、复核)当成一项要练的技能,而不是碰运气;四是日常开发的主力就该压在一两个便宜的快模型上,并且用成本或能耗、而不是 token 数量来判断谁划算。最后一条对预算紧的小团队尤其现实:AI 支出很少是被单价拖垮的,通常是被「随手一跑」拖垮的。