赛门铁克捕获劫持无防护大模型的攻击代理方案

赛门铁克通过蜜罐捕获了一套攻击代理提示词，意图劫持互联网上未受保护的大语言模型，自主发动攻击并让模型所有者承担计算费用；此次捕获并不证明完整攻击链已成功运行。 该方案包含五层越狱指令和74个工具模块，允许代理最多连续执行10万步，设计了扫描、入侵、部署挖矿程序和再次感染的循环。赛门铁克称，蜜罐未执行附带工具，截获会话在一次通用系统回复后结束。

AI 根据报道生成 · 23 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。