成为赞助商——支持中文 Agent 生态

了解赞助
库Agent场景库
← 返回用例列表

Scott:Daytona 沙箱评 Claude Code skill 激活——forced-eval 打满分

对照个人工具链作者:用真 claude -p 沙箱而非 API 模拟测钩子;披露基线约 55%、forced-eval/llm-eval 标准集 100%、难例真负 forced-eval 5/5、全评约 $5.59;不代你激活率、不外推。

DeepSeekClaudeChatGPTGitHub⚡ 效率办公🛠️ 开发者工具

场景说明

面向写了一堆 skills 却发现模型常不调用的建造者:把「再改一版描述碰运气」写成可对账的沙箱评测+钩子对照+真负样本,区别于删多智能体调查队的产品 Eval 与隐藏测试编码评测。

案例叙事

01他们做了什么

Scott Spence 在个人博客《Measuring Claude Code Skill Activation With Sandboxed Evals》(页内 February 8, 2026;JSON-LD datePublished 2026-02-08 → 2026-02-08;canonical scottspence.com)写明:先前用 Messages API+Haiku 模拟测 forced-eval 约到 84%,但那是模拟而非真 Claude Code。于是自建评测:每个钩子配置在 Daytona 沙箱跑真 claude -p,上传 Svelte skills 与钩子,解析 stream-json 里 Skill() tool_use;约 20 秒超时只关心是否激活,避免完整「修问题」跑到数百秒。

五配置:none 基线、simple 一行提示、forced-eval(UserPromptSubmit 强制逐 skill YES/NO 再 Skill())、llm-eval(Haiku 预分类再告知激活)、type-prompt(原生 prompt 钩)。Run1(22 题,Sonnet 4.5):none 约 55%(12/22)、simple 约 59%、forced-eval 与 llm-eval 均为 100%、type-prompt 约 55%(与无钩相当)。激活列与正确列一致——选错不是主因。llm-eval 均时约 6.4s 快于 forced-eval 约 10.7s(约快 40%)。Run2 复核:结构化钩仍 100%;无结构配置在约 41–59% 晃。更难 24 题(含五条无关负例):forced-eval 总准约 75%(18/24)、真负 5/5、假正 0;llm-eval 约 67%、真负仅 1/5、假正 4。全评花费约 $5.59(约 250 次调用量级)。结论倾向 forced-eval:标准集满分且负例不乱推荐;基线靠关键词更像匹配。本场景据此输出「skill 激活评测」提纲。禁止建议把评测满分当生产无人值守保证。

02实际效果

  • 源披露五配置对照、基线约 55%、forced-eval/llm-eval 标准 22 题两跑 100%、难例 forced-eval 真负 5/5 对比 llm-eval 假正 4,以及全评约 $5.59 等作者口径;属个人 Svelte skills 沙箱叙事,不可外推为你的技能集激活率、延迟或账单。
  • 能把「改描述碰运气」与「真二进制沙箱 + 钩子对照 + 负例」拆开。
  • 为 type-prompt 无效、无关键词提示漏激活、以及 llm-eval 乱荐 skill 提供提问清单。

03值得知道

  • 用例绑定作者四则 Svelte skills;换领域需重做题集。
  • 20 秒截断只测激活,不证明实现质量。
  • 上面写的是作者个人实践帖,不是 Anthropic 官文评测。

04可复制提示词

skill 激活评测简报

你是 Claude Code skill 评测顾问。只根据用户约束写提问清单,不要编造已跑满分。

skills 列表:{{skills}}
是否含负例:{{negatives}}
钩子现状:{{hooks}}

输出 Markdown:
1. 沙箱 harness 最小步骤
2. 五配置对照表该怎么填
3. forced-eval vs llm-eval 选型理由
4. 人工上线钩子清单
禁止声称激活已 100%;禁止建议跳过负例。

假激活复盘提纲

上线 llm-eval 后,无关 React 问题也拉起了业务 skill,请写复盘提纲。

现象:{{symptom}}

输出:
1. 是缺真负样本、预分类幻觉,还是描述过宽
2. 改 forced-eval 或加负例门禁的最小补丁
3. 下次验收标准
4. 人工确认清单
不要伪造「钩子已消除全部漏报误报」。

怎么做

  1. 粘贴 skills 列表、是否已有 UserPromptSubmit 钩子,以及是否包含「不应激活」负例
  2. Agent 按实践帖输出:沙箱 harness 步骤→五配置对照→forced-eval vs llm-eval 选型与真负样本提问清单
  3. 人工保留生产钩子上线判断;Agent 不代你声称激活率已 100%

实用提示

  • 源帖:激活列与正确列一致——问题是「会不会调用 Skill()」,不是「选错 skill」;无关键词提示基线很脆
  • 与 nofire-single-investigator-eval-cut / unlearn-hidden-test-coding-agent-eval 不同:本条是 Claude Code skill 激活钩子沙箱评测,不是删调查队或隐藏测试编码评测
#skill activation#Daytona#forced-eval#hooks#evals