Benchmark Radar 第 100 天:长不等于深,轮数测的是模型不是任务
Published:
Benchmark Radar 第 100 天。长不等于深,轮数测的是模型不是任务。本轮抓取 1,225 条,发布 604 条,其中 327 条标为推荐。
Benchmark Radar 已上线。 打开仪表盘、在 GitHub 上 Star,或阅读论文。数据见 Hugging Face 数据集。
新论文「Is Your Long-Horizon Benchmark Really Deep?」把任务长度和任务结构分开。它不统计模型实际用了多少轮,而是以所需操作衡量工作量,以必须按顺序执行的步骤衡量深度,因为每一步都依赖前一步的输出。作者报告,轮数主要反映模型习惯,模型自定的难度标签与通过率几乎不相关。 Is Your Long-Horizon Benchmark Really Deep? Measuring and Synthesizing Depth in Terminal Tasks。
THReD 基准评估一个把电子健康记录摘录转成可直接分析的数据集的智能体,同时评估它调用的预处理工具。141 项任务涵盖目标层级的请求、故障恢复、无需行动的请求、结构变化和提示注入,恶意指令就藏在输入数据里。拟议的处理步骤只有在用户确认后才会运行。 Benchmark of THReD: Evaluating an LLM Agent and Its Preprocessing Tools for Turning Electronic Health Records into AI-Ready Datasets。
为什么要在意
真正顺序性的工作,要和因低效行为变长的任务分开。对临床数据智能体,平行的测试是控制权,智能体是否会拒绝执行、能恢复,并在执行前让人掌控。
扫描范围
这是按关键词筛选的发现信息流,不能代表全部 AI 研究。归档简报使用了所收录 604 条证据中的 176 条。本文概述其中引用的发布成果;扫描发现日期不一定是成果的最初发布日期。
数据与简报:2026-11-03 归档快照。
