跳转到正文
开发动态arXivGETAI.APP查看原文

预训练数据投毒研究揭示智能体执行风险

一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。

一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。

作者在多种小型 Qwen3 模型上进行了端到端实验。这项工作强调预训练数据供应链与智能体运行权限的重要性;论文中的攻击成功率属于受控设置,不能直接推断现实产品已经受影响。

来源:arXiv · 2610.37741

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?