Token 统计,说白了就是“数一下这次对话到底消耗了多少个计费单位”。
先说 Token 是什么。大模型不是按“字”或“词”来读文字的,它自己有一套切分方式,把一段话切成一小块一小块,每一块就叫一个 Token。你可以把它理解成“模型的计米器”——就像打车按公里数收费,Token 就是这里的“公里”。
举个直观的例子:
- 中文里,1 个汉字大约对应 0.6~1 个 Token 左右(不同模型切法不一样)
- 英文里,1 个单词大约 1.3 个 Token 左右
- 一个标点、一个空格、一个换行,都可能各算一个 Token
所以“Token 统计”这四个字,通常包含两层意思:
一般会拆成三块看:
| 统计项 | 含义 | 为什么要看 |
|—|—|—|
| 输入 Token(Prompt) | 你发过去的内容,包括系统提示、历史对话、你贴的资料 | 决定预填充成本,资料贴得越多越贵 |
| 输出 Token(Completion) | 模型生成的内容 | 通常单价更高,是最费钱的部分 |
| 总 Token | 输入 + 输出 | 用来计费、限流、判断有没有超上下文窗口 |
为什么大家这么在意这个数? 三个原因:
- 要花钱:API 计费基本都是按 Token 计价的,输入一个价、输出一个价,通常是“每百万 Token 多少钱”。你贴 10 万字的文档让它总结,光输入就是十几万 Token 出去了。
- 有上限:每个模型都有“上下文窗口”,比如 32K、128K。这里的 K 说的就是 Token 数,不是字数。超了就得截断或者压缩。
- 影响速度和成本:Token 越多,模型处理越慢,钱也越多。
一句话类比:Token 统计就像手机流量统计。你不是按“发了几条微信”算流量,而是按实际传输的数据量算。Token 就是 AI 世界的那个“流量单位”。
做工程时大家常做的几件事:控制系统提示长度、别把整本书塞进去、对历史对话做摘要压缩、给输出设 max_tokens 上限。这些都是为了把 Token 统计数字压下来。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
