跳转到正文
GETAI.APP
产品动态PR NewswireGETAI.APP查看原文

Cato 发布 AgentSense 智能体防护

Cato 介绍 AgentSense,通过追踪不可信内容对智能体行为的影响,在执行前拦截危险动作;任务漂移检测仍按后续能力介绍。

AI 生成主题插画,非实拍

Cato Networks 于 11 月 17 日公布 AgentSense,定位于 AI 智能体的运行时防护。公司称,智能体即使持有合法权限,仍可能被不可信内容引导去执行偏离用户意图的操作。

智能体运行时防护主题插画,AI 生成、非实拍

其 Untrusted Influence Detection 追踪指令和数据如何影响智能体行为,发现不可信内容正将其导向危险动作时,在执行前进行拦截,针对的是间接提示注入等风险。

公告另以将来时介绍 Drift Detection,用来识别动作是否偏离原始任务;这项仍为后续安排。

公司表示 AgentSense 已整合进 Cato 平台,并将纳入 Cato AI Usage 许可而不额外收费,同时开放挑战赛收集对抗测试反馈。

来源:PR Newswire · Cato 公告、Cato · AgentSense 产品页。

配图:GETAI.APP 使用内置 imagegen 生成的主题插画,非安全测试截图。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?