MyRelay

← 回到笔记本

令牌价格怎么算:从一次请求算到每月预算

先把每百万令牌的报价拆小

模型通常按令牌计费,而不是按提问次数计费。令牌是模型处理文字的片段,不等于一个汉字或一个单词。中文、英文、标点和代码的切分方式不同,估算可以帮助规划,结算仍要看实际用量。

价格表常写“每百万令牌多少钱”。下面假设输入每百万令牌为二美元,输出每百万令牌为八美元。这只是演算示例,不代表任何模型或 MyRelay 的实际报价。

把一次请求分成输入和输出两笔账

输入是发给模型的内容,包括问题、系统指令、历史对话和附带资料。输出是模型生成的内容。两者单价可能不同,因此不能把总令牌数直接乘以输入价格。

假设一次请求用了三千个输入令牌,生成五百个输出令牌。输入费用是三千除以一百万,再乘以二美元,得到零点零零六美元。输出费用是五百除以一百万,再乘以八美元,得到零点零零四美元。

两笔相加,这次请求花费零点零一美元。通用算法就是:输入令牌数乘以输入单价,加上输出令牌数乘以输出单价;如果报价单位是每百万令牌,两项都要先除以一百万。

继续追问时,把历史内容重新算进去

第二次只问“再解释一下”,不代表输入只有这几个字。如果应用把前面的问答一并发送,历史内容也进入本次输入。对话越长,后续请求的输入量往往越大。

假设第二次输入增长到六千个令牌,输出仍为五百个。沿用示例单价,这次费用就是零点零一二加零点零零四,合计零点零一六美元。两次请求总共花费零点零二六美元,而不是两分钱。

用实际调用量推算月度预算

先拿单次费用乘以调用次数。如果每次都接近一分钱,一百次约一美元,一千次约十美元。但这只是基准:长文总结、反复修改和自动重试,都可能改变平均费用。

更稳妥的办法是先观察几十次真实请求,再计算平均成本。若平均每次零点零一五美元,预计每月调用六百次,基础预算就是九美元。还应留出余量,避免一次长任务就耗尽预算。

遇到缓存价格,先确认哪些令牌适用

有些模型会区分普通输入、缓存读取和缓存写入,具体规则与价格应以当前说明为准。相同内容再次出现,不一定就能享受缓存优惠;不能把所有输入都按最低档计算。

如果账单列出其他计费项目,也要逐项核对。尤其不要只凭屏幕上看到的回答长度推算全部成本,应以实际记录的计费用量为准。

先看请求明细,再决定从哪里节省

在 MyRelay,可以查看每次请求的令牌用量和费用,把估算与实际支出对照。你可以创建一个 MyRelay 账户,先用几次小请求熟悉账单,再决定投入多少预算。

节省时先找大头:输入多,就删去无关资料或整理历史;输出贵,就明确要求回答长度。不要为了省一点费用反复重做任务。对个人开发者和学生来说,真正有用的指标是完成一件事的总成本,而不只是价格表上最小的数字。

顺便看看