Benchmark Radar 第 106 天:真正被测的是运行框架

less than 1 minute read

Published:

Benchmark Radar 第 106 天。真正被测的是运行框架。本轮抓取 1,111 条,发布 496 条,其中 283 条标为推荐。

作者:Koutian Wu;GitHub: ktwu01

Benchmark Radar 已上线。 打开仪表盘、在 GitHub 上 Star,或阅读论文。数据见 Hugging Face 数据集。

Knowing When to Intervene 是一个新的评估框架,它把部署时的监督当作因果问题来处理。在智能体行动序列的某个节点,人工审查、模型验证或者引导能否比让智能体继续执行更能改善最终结果。这个框架和只给已完成运行打分的静态基准不同,它直接评估干预策略本身,不再拿整体任务成功率当作代理指标。 Knowing When to Intervene: Causal Evaluation of AI Agents。

新发布的 Flex-RSI 基准允许智能体在固定预算下经过多轮迭代,修改自己的运行框架,也就是模型外围的提示词、工具、记忆和控制循环。BOXBOX 及其 PerfRace 基准也在长期软件优化中独立测试运行框架的自我修改,可变运行框架已经成为反复出现的评估压力。固定框架的基准会同时遗漏这种适应的收益和成本。 Flex-RSI: Benchmarking Recursive Self-Improvement of Frontier Agents。BOXBOX: Recursive Harness Self-Improvement for Long-Running Performance Optimization。

为什么要在意

决定在智能体工作流的哪些位置部署成本高昂的监督时,这个干预框架把智能体选择决策和监控升级决策分开。比较会在使用过程中自我适应的智能体系统时,需要在预算约束下给持续演化的系统打分的评估。运行框架现在也是被测对象的一部分。

扫描范围

这是按关键词筛选的发现信息流,不能代表全部 AI 研究。归档简报使用了所收录 496 条证据中的 167 条。本文概述其中引用的发布成果;扫描发现日期不一定是成果的最初发布日期。

数据与简报:2026-11-09 归档快照。