Simon Willison·· 1 天前AI 评分41
Qwen3.8 27B 用英文单词输出加法结果的基准测试
Qwen3.8 27B addition in words
AI 导读
本地 `Qwen3.8-27B-Q4_K_M.gguf` 被测试能否做正整数加法,并只用英文单词输出精确结果。关闭推理的 5,070 个案例中,数值准确率为 23.57%,从一至三位数的 97.04% 降至十至十三位数的 6.44%,格式合规率为 96.17%。开启 medium reasoning 的 169 个配对案例中答对 167 个,但每组只跑 1 次且耗时更长。
来源:Simon Willison · simonwillison.net