Token计费的通胀困局

Token按量计费，账是一笔一笔加上去的。模型参数规模一路变大，推理成本跟着涨，每一次API调用都要划掉一批Token。模型不多、调用量小的阶段，这笔开销几乎没人注意。等到接的模型一多、日均调用量上去以后，成本就成了绕不开的事。