包含tokenize怎么翻译的词条

Token是词汇单元，Tokenize是将文本转换为Token序列的过程，Tokenizer是执行Tokenize操作的工具或函数在自然语言处理和文本分析中，Token通常指的是一个最小的有意义的语言单位例如，在英文中，一个Token可以是一个单词，如quot。无论是专家还是业内人士都在热议一个词t