一句话说清楚
大模型不能直接读文字,先把文本切分成 token(一个汉字约 1-2 个 token,一个英文单词约 1-1.5 个 token)。你看到的「8K 上下文」说的就是 8K 个 token,API 计费也按 token 数结算。不同模型分词器不同,同一段文本在不同模型下的 token 数会有差异。
这对你选工具意味着什么
估算成本用「中文 1 字 ≈ 1.5 token」粗算就够精确;对长文档处理场景,优先选长上下文模型而不是自己做切分。
常见误区
「上下文 8K」不等于能塞 8K 汉字——加上系统提示和回复预算后实际可用更少,超长输入会被截断或报错。