garak 命中判定与评估边界

文章介绍 garak 如何通过 Probe、Buff、Generator 和 Detector 扫描模型，并将输出判定为 hit 或 pass；文章称，命中结果受攻击样本、变异方式、Detector 和采样参数影响，不能直接代表模型整体安全性。 文章称，garak 不是运行时护栏；评估 Agent 时，它主要观察文本结果，若要判断工具调用、权限和实际副作用，还需纳入调用轨迹等观测。文章还称，当前版本推荐使用 --target_type、--target_name 和 --spec。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。