GPT-6 Luna单价都压过DeepSeek闲时档了,财务别只会喊「换更便宜的AI」——路由一乱,账单照样爆炸

GPT 6 Luna把API单价压到很刺眼的位置,有报道直接拿它跟DeepSeek闲时档比,说海外闭源也能打进低价区。财务群里第一反应几乎一样:那我们是不是该全换更便宜的AI? 我泼冷水:单价低,不等于账单低。路由一乱,便宜模型会被…

作者:小白 ·

GPT-6 Luna把API单价压到很刺眼的位置,有报道直接拿它跟DeepSeek闲时档比,说海外闭源也能打进低价区。财务群里第一反应几乎一样:那我们是不是该全换更便宜的AI?

我泼冷水:单价低,不等于账单低。路由一乱,便宜模型会被拿去干贵活,贵模型会被拿去干碎活,两边一起烧。

财务对照两份模型价目与账单柱状便签

我更倾向的判断

选型先定路由,再谈单价。 没有路由表的降价,是把成本风险从合同转移到混乱调用。我更倾向「贵的少而准,便宜的多而窄」,不倾向「全公司默认最低价」。

单次事件:9月25日那份「降价周报」

信息化同事兴冲冲丢来周报:已切换低价模型,预估月省四成。我要三列数据:任务类型、模型、失败重试次数。表一出来,省的那四成里,有两成是客服草稿重跑三次堆出来的;还有一批对客口径误走了公网低价通道。

我把路由改成:对内草稿走低价;对客与报送走可控通道;失败超过两次人工接管。账单毛刺下去了,周报才像财务能认的数。我更吃「可解释的省」,不吃「看起来的省」。

路由表三列任务模型重试

实测·踩坑·对照

| 策略 | 结果 |
| --- | --- |
| 全员默认最低价 | 重试升,对客口径不稳,账单波动大 |
| 按任务路由+重试熔断 | 单价不一定最低,月总成本更稳 |
| 只比价目不比缓存命中 | 看似便宜,实际重复传上下文 |

踩坑:提示词默认「再给三个方案」,低价模型也会把输出拉长。对照:删掉多方案默认,输出次数先降。试了两周,客服线稳定,战略润色线仍走人工提纲。

删掉多方案默认的提示词贴纸

财务本周动作

  1. 建路由表:对内草稿 / 对客报送 / 代码辅助分模型。
  2. 账单加两列:缓存命中、无效重试。
  3. 单价下降不自动放宽数据出境。
  4. 任何「全换低价」申请,必须附失败样例。

短示例(完整版见站内 Prompt):

你是财务侧模型路由助手。
输入任务类型与数据等级,输出推荐模型档与禁走通道。
禁止只推荐最便宜;必须写重试上限。

模型路由申请单暖色桌面

价格战还会继续。财务别被新闻标题推着跑:今天压过谁,明天又被谁压。能写进制度的,是任务分级与熔断,不是某一天的价目截图。价目截图适合贴周报附录;制度适合贴进采购合同。

跟业务沟通,把成本译成人话:一次无效重试约等于多少市内交通补贴。数字落到熟悉单位,部门才肯停手。董事会若问智能化成果,请把节省人时与Token支出放同一页,只报节省不报支出是宣传。

开源可私有化仍有价值:不是因为它永远更便宜,而是数据驻留与可控性。低价公网解决不了「能不能出域」的问题。该本地的本地,该公网的公网,别用单价把合规买没。

采购条款加一句:模型切换需保留三十天对照日志。没有对照,就无法证明「更便宜」没有换来「更糊涂」。糊涂的账单,最后都会回到财务桌上。

跟业务沟通,把成本译成人话:一次无效重试约等于多少市内交通补贴。数字落到熟悉单位,部门才肯停手。董事会若问智能化成果,请把节省人时与Token支出放同一页,只报节省不报支出是宣传。

开源可私有化仍有价值:不是因为它永远更便宜,而是数据驻留与可控性。低价公网解决不了「能不能出域」的问题。该本地的本地,该公网的公网,别用单价把合规买没。

采购条款加一句:模型切换需保留三十天对照日志。没有对照,就无法证明「更便宜」没有换来「更糊涂」。糊涂的账单,最后都会回到财务桌上。

价格战还会继续。财务别被新闻标题推着跑:今天压过谁,明天又被谁压。能写进制度的,是任务分级与熔断,不是某一天的价目截图。价目截图适合贴周报附录;制度适合贴进采购合同。

跟业务沟通,把成本译成人话:一次无效重试约等于多少市内交通补贴。数字落到熟悉单位,部门才肯停手。董事会若问智能化成果,请把节省人时与Token支出放同一页,只报节省不报支出是宣传。

开源可私有化仍有价值:不是因为它永远更便宜,而是数据驻留与可控性。低价公网解决不了「能不能出域」的问题。该本地的本地,该公网的公网,别用单价把合规买没。

采购条款加一句:模型切换需保留三十天对照日志。没有对照,就无法证明「更便宜」没有换来「更糊涂」。糊涂的账单,最后都会回到财务桌上。

价格战还会继续。财务别被新闻标题推着跑:今天压过谁,明天又被谁压。能写进制度的,是任务分级与熔断,不是某一天的价目截图。价目截图适合贴周报附录;制度适合贴进采购合同。

跟业务沟通,把成本译成人话:一次无效重试约等于多少市内交通补贴。数字落到熟悉单位,部门才肯停手。董事会若问智能化成果,请把节省人时与Token支出放同一页,只报节省不报支出是宣传。

收尾

Luna可以更便宜;你们的路由可以更清楚。别只会喊换更便宜的AI——路由一乱,账单照样爆炸。

账单与路由表并排的财务工位

同话题相关讨论

查看完整讨论与评论