跳转到正文
登录
← 开发动态

LatentTriad 在执行前检查技能风险

不运行外部技能,利用预填充状态识别任务越界。

GETAI.APParXiv查看原文 ↗

11 月 3 日提交的 LatentTriad 尝试识别智能体技能中的恶意内容。系统只进行一次预填充,通过内部表示检查任务与操作的一致性,不调用工具、不执行技能代码。

团队使用来自五个来源的 5830 个技能包与七个模型进行评估,并报告不同来源下的检测结果。论文仍在审稿,性能数字对应其受控数据集。

来源:arXiv。

登录

还没有账号?