跳到正文
原文
Simon Willison·· 8 小时前AI 评分39

ttok 1.0 发布:默认 tokenizer 切换到 GPT-5/GPT-6

ttok 1.0

AI 导读

Simon Willison 发布 ttok 1.0,将默认 tokenizer 从 GPT-4 切换为 GPT-5/GPT-6。OpenAI 尚未确认 GPT-6 与 GPT-5 系列使用相同 tokenizer,但 William Liu 的实验显示 7 个 GPT 模型在 31 个 fixtures 上均为 44,794 tokens,结果相互匹配。

来源:Simon Willison · simonwillison.net