什么是token？-j9九游会登录

在自然语言处理中，token通常指将文本分割成的最小单位，例如词语、子词或字符等。在调用模型推理服务时，输入内容会被分词（tokenize），转化为模型可识别的token 。模型处理后会输出token，并将其转换为用户所需文本或其他内容载体。模型处理（包括输入、输出）的token数量会被作为模型推理服务用量的一个重要计量单位。

关于token如何计费，请参见在线推理模型服务价格。