跳到主要内容

AI 百科词条

分词器(Tokenizer)是什么?

把文本切成模型能处理的「词元」的组件,计费、上下文长度都按它数。

一句话说清楚

大模型不能直接读文字,先把文本切分成 token(一个汉字约 1-2 个 token,一个英文单词约 1-1.5 个 token)。你看到的「8K 上下文」说的就是 8K 个 token,API 计费也按 token 数结算。不同模型分词器不同,同一段文本在不同模型下的 token 数会有差异。

这对你选工具意味着什么

估算成本用「中文 1 字 ≈ 1.5 token」粗算就够精确;对长文档处理场景,优先选长上下文模型而不是自己做切分。

常见误区

「上下文 8K」不等于能塞 8K 汉字——加上系统提示和回复预算后实际可用更少,超长输入会被截断或报错。

和「分词器」最相关的工具按真实人气排序

用这些工具解决真实场景