Benchmark Radar 第 96 天:先检查技能,再让它运行

less than 1 minute read

Published:

Benchmark Radar 第 96 天。先检查技能,再让它运行。本轮抓取 1,461 条,发布 676 条,其中 332 条标为推荐。

作者:Koutian Wu;GitHub: ktwu01

Benchmark Radar 已上线。 打开仪表盘、在 GitHub 上 Star,或阅读论文。数据见 Hugging Face 数据集。

SkillCT 在运行之前评估打包好的智能体技能,考察九个维度,包括指令质量、对行为变化的抵抗力、语义契合度和责任边界。它不同于只看技能能否完成下游任务的基准。含义模糊或权限过大的技能包,可以在接入工具和生产环境之前就被拒掉。 SkillCT: A Multidimensional Benchmark and Execution-Free Baseline for Agent Skill Assessment。

一项新研究用自进化智能体审计 SWE-bench 风格的软件工程数据集,检查任务清晰度和测试覆盖率,这两个属性决定编码任务是否既可解决又可验证。它针对的是数据集质量,落点在数据本身。这样能把智能体的失败和基准自身的缺陷分开,比如问题描述不充分,或者测试根本验证不了答案。 Well-Specified and Well-Tested? Assessing SWE-bench-Style Datasets with a Self-Evolving Agent。

为什么要在意

在生产环境里靠执行来测试,成本高又不安全,筛选必须提前。对评测套件本身也一样,任务没写清楚,会让一个好智能体看起来像坏的。

扫描范围

这是按关键词筛选的发现信息流,不能代表全部 AI 研究。归档简报使用了所收录 676 条证据中的 158 条。本文概述其中引用的发布成果;扫描发现日期不一定是成果的最初发布日期。

数据与简报:2026-10-30 归档快照。