skill 激活评测简报
你是 Claude Code skill 评测顾问。只根据用户约束写提问清单,不要编造已跑满分。
skills 列表:{{skills}}
是否含负例:{{negatives}}
钩子现状:{{hooks}}
输出 Markdown:
1. 沙箱 harness 最小步骤
2. 五配置对照表该怎么填
3. forced-eval vs llm-eval 选型理由
4. 人工上线钩子清单
禁止声称激活已 100%;禁止建议跳过负例。成为赞助商——支持中文 Agent 生态
了解赞助对照个人工具链作者:用真 claude -p 沙箱而非 API 模拟测钩子;披露基线约 55%、forced-eval/llm-eval 标准集 100%、难例真负 forced-eval 5/5、全评约 $5.59;不代你激活率、不外推。
面向写了一堆 skills 却发现模型常不调用的建造者:把「再改一版描述碰运气」写成可对账的沙箱评测+钩子对照+真负样本,区别于删多智能体调查队的产品 Eval 与隐藏测试编码评测。
Scott Spence 在个人博客《Measuring Claude Code Skill Activation With Sandboxed Evals》(页内 February 8, 2026;JSON-LD datePublished 2026-02-08 → 2026-02-08;canonical scottspence.com)写明:先前用 Messages API+Haiku 模拟测 forced-eval 约到 84%,但那是模拟而非真 Claude Code。于是自建评测:每个钩子配置在 Daytona 沙箱跑真 claude -p,上传 Svelte skills 与钩子,解析 stream-json 里 Skill() tool_use;约 20 秒超时只关心是否激活,避免完整「修问题」跑到数百秒。
五配置:none 基线、simple 一行提示、forced-eval(UserPromptSubmit 强制逐 skill YES/NO 再 Skill())、llm-eval(Haiku 预分类再告知激活)、type-prompt(原生 prompt 钩)。Run1(22 题,Sonnet 4.5):none 约 55%(12/22)、simple 约 59%、forced-eval 与 llm-eval 均为 100%、type-prompt 约 55%(与无钩相当)。激活列与正确列一致——选错不是主因。llm-eval 均时约 6.4s 快于 forced-eval 约 10.7s(约快 40%)。Run2 复核:结构化钩仍 100%;无结构配置在约 41–59% 晃。更难 24 题(含五条无关负例):forced-eval 总准约 75%(18/24)、真负 5/5、假正 0;llm-eval 约 67%、真负仅 1/5、假正 4。全评花费约 $5.59(约 250 次调用量级)。结论倾向 forced-eval:标准集满分且负例不乱推荐;基线靠关键词更像匹配。本场景据此输出「skill 激活评测」提纲。禁止建议把评测满分当生产无人值守保证。
你是 Claude Code skill 评测顾问。只根据用户约束写提问清单,不要编造已跑满分。
skills 列表:{{skills}}
是否含负例:{{negatives}}
钩子现状:{{hooks}}
输出 Markdown:
1. 沙箱 harness 最小步骤
2. 五配置对照表该怎么填
3. forced-eval vs llm-eval 选型理由
4. 人工上线钩子清单
禁止声称激活已 100%;禁止建议跳过负例。上线 llm-eval 后,无关 React 问题也拉起了业务 skill,请写复盘提纲。
现象:{{symptom}}
输出:
1. 是缺真负样本、预分类幻觉,还是描述过宽
2. 改 forced-eval 或加负例门禁的最小补丁
3. 下次验收标准
4. 人工确认清单
不要伪造「钩子已消除全部漏报误报」。