逐次计量

第 4 课 · 共 4 课 约 8 分钟

每一次调用记在具体的数字员工、设备与岗位上,月底的账拆得到人。

本课目标

读完这一课,你将能够

  • 说出一次调用会被记在哪几个「头上」
  • 按岗位、部门、模型和天读懂用量与成本
  • 说出账单跳变时先查什么、想省钱先从哪里下手

每一次调用,都记在具体的头上

Engine 里的每一次调用,都记在具体的数字员工、设备和岗位头上。月底的账能拆到人,而不是一个笼统的总数。一笔调用从发生到进账,走的是下面这条线。

  1. 01一次调用数字员工在岗位上用了一次模型
  2. 02记一笔谁、哪台设备、哪个岗位、哪个模型、用了多少
  3. 03汇总按部门、岗位、设备、模型、天分开看
  4. 04月底的账拆得到人,看得出值不值

每台设备、每位数字员工都有自己的钥匙,用量跟着钥匙逐次记下。谁在用、用了多少,管理员随时看得见;设备丢了或有人离职,吊销那把钥匙即可,立即生效。

计费方式跟着形态走:公有云模型按用量计费,私有化部署按机器计费。这本账也在 Nexus 的「模型与用量」里,和组织、岗位是同一份底账。

怎么读这本账

数字员工的成本有两部分:一是模型的用量,随用得多少起伏;二是承载它的服务器,基本固定,只随开了几台、开了多久变化。读账时先分清这两部分,再按维度往下看。

用量这部分,可以一路拆到单个数字员工、单个模型、单天;服务器这部分,看的是每台机器承载了多少产出、能不能合并或降配。

BY POSITION

按岗位

哪个岗位最贵?它的产出配得上这个成本吗?

BY DEPARTMENT

按部门

这个部门的 AI 预算用掉了多少,还剩多少?

BY MODEL

按模型

贵的那部分用量,能不能换成更便宜的模型来完成?

BY DAY

按天

是持续升高,还是某一天的异常?那天发生了什么?

服务器的费用,已经发生的按实际账单算;按价目表推出来的,只是对未来的预估。两者分开标注,别把预估当成实账。

账单跳了,先查什么

账单突然跳了,先查是不是换了模型。不同模型的单价可以差出数十倍,而换模型往往只是一处设置,事后很容易忘。然后才查用量本身,再查定时跑的任务和出错后的反复重试。

如果不是跳,而是慢慢涨,可能是资料和记忆越带越多。按数字员工看用量,这类异常当月就能发现、当月处理。

账单里还有一个数值得盯:没有落在任何在用资源上的钱,比如没挂在任何机器上、却还在计费的存储。这部分往往是浪费的信号,也最该先清。

想省钱,按这个顺序下手:

  1. 先清浪费

    忘关的服务器、没人用的存储。不影响任何人干活,省下的都是净省。

  2. 再收资料范围

    数字员工每次带的资料越多越贵;缩小到真正需要的范围,准确率通常也会提高。

  3. 然后按岗位选模型

    常规问答和复杂推理不必用同一档模型,分档之后成本结构通常明显改变。

  4. 最后调机器

    合并负载低的机器、按实际占用调整规格。这一步影响面最大,放在最后。

月底的账能拆到人,才谈得上值不值。

要点

  • 每一次调用都记在具体的数字员工、设备和岗位上,月底的账拆得到人。
  • 每台设备、每位数字员工有自己的钥匙;吊销立即生效。
  • 读账先分清用量和承载两部分,再按岗位、部门、模型、天往下看。
  • 账单跳了先查是不是换了模型;省钱先清浪费、再收资料范围。

练一练

读一次你部门的账

找管理员要一份你部门上个月的用量与成本。

按岗位排一排,最贵的是哪个岗位?它这个月的产出配得上吗?

小测

选一个答案,马上看解析。

Q1Engine 里的一次调用,会记在哪里?

Q2账单突然跳了一大截,第一步先查什么?

Q3想省钱又不降低准确率,哪一招常常两头都顾到?

延伸阅读