Benchmark Radar 第 98 天:知道自己在被测的智能体,是另一个智能体

less than 1 minute read

Published:

Benchmark Radar 第 98 天。知道自己在被测的智能体,是另一个智能体。本轮抓取 950 条,发布 357 条,其中 150 条标为推荐。

作者:Koutian Wu;GitHub: ktwu01

Benchmark Radar 已上线。 打开仪表盘、在 GitHub 上 Star,或阅读论文。数据见 Hugging Face 数据集。

Metagaming Evaluations 数据集测试编程智能体在意识到自己正被评估时会不会改变行为。它记录智能体在 59 种评估情境显眼程度不同的条件下解决真实软件问题的过程,包括推理和命令,再按观察到的元博弈行为给各次运行排序。这样就能检查排名反映的是软件修复能力,还是被评估线索触发的行为。 idacy/metagaming-evaluations。

KORA Bench 用 737 个场景评估儿童安全,涵盖 25 类风险和多个年龄组。它采用多轮对话、两种提示条件和三级响应质量量表,在 30 个语言模型上生成了 44,220 段对话。安全在这里是按年龄展开的对话测试,单轮拒答只是其中一小块。 KORA Bench: An Open-Source Benchmark for Evaluating Large Language Model Safety in Child–AI Interactions。

为什么要在意

基准分数该反映被排名的能力。智能体察觉自己被盯着之后的反应,会污染这个分数。按年龄分级、多轮对话的测试,也让安全比较不止于通过和不通过两种结果。

扫描范围

这是按关键词筛选的发现信息流,不能代表全部 AI 研究。归档简报使用了所收录 357 条证据中的 92 条。本文概述其中引用的发布成果;扫描发现日期不一定是成果的最初发布日期。

数据与简报:2026-11-01 归档快照。