AB
AiBoss
ニュース

微软与香港城大提出 Taste-Bench:AI 智能体长期决策能力最高仅约六成

微软与香港城市大学研究者提出 Taste-Bench,用「决策分叉」考察 AI 智能体在长任务中的长期判断力。测试的 14 个模型中最高分约 59.7%,当关键线索只在后续步骤才出现时,准确率跌至约 21%。

核心事实

据 the-decoder.com 报道,微软与香港城市大学的研究者提出了一套名为 Taste-Bench 的评测方法,用来衡量 AI 智能体在长周期任务中的长期决策质量,作者把这种能力称为智能体的「品味」(taste)。该基准包含 502 道题,每题给出原始任务、截至「决策分叉」的轨迹,以及两条可选路径,模型需在后续结果揭晓前做出二选一判断。研究团队测试了来自 Claude、GPT、Grok、DeepSeek、GLM、MiniMax 和 Mistral 等家族的 14 个模型,每道题以正序和选项翻转两种顺序各问一次,两次都答对才计为正确。据报得分最高的是 GPT-5.6 Sol,平均约 59.7%,GPT-5.5 以约 59.5% 紧随其后,其余模型明显更低。

背景与影响

现有基准多只看任务是否完成,而不评估中间步骤的优劣。研究者指出,长期决策的代价往往滞后显现:一个草率的实现起初可能与规范实现产出相同结果,只有在后续修改时才暴露成本。Taste-Bench 因此借助「后见之明」,从同一任务的多次尝试中找出走向不同的分叉点,再让模型在信息被截断处做选择。结果显示,当关键线索已出现在此前步骤中时,各模型平均准确率约 62.3%;当线索要等到大量后续工作之后才出现时,准确率降至约 21%,接近随机猜测。研究者还尝试把「知道正确路径」的教师模型判断蒸馏进以 Qwen3.6-27B 为基础的学生模型,学生模型在未见任务上的准确率从 30% 升至 47.9%;在 41 项留出的 SWE-bench Pro 任务上,把该判断作为建议加入上下文后,成功率从 14.6% 升至 33.7%。

限制与来源

上述数字均来自论文作者的评测设置,属于特定基准与特定模型版本下的结果,不代表其他任务或后续模型版本的表现;模型名称与版本以论文和官方发布为准。研究者称基准与代码已公开,具体获取方式与许可应以项目页面当前信息为准。本文信息来自 the-decoder.com 的报道,相关结论尚未见独立第三方复现。