跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

Shield 在调用语言模型前替换敏感字段,并在本地还原回答

PromptAudit 的开源工具 Shield 提供了一个无外部依赖的文本脱敏步骤。程序可以在调用模型前把匹配到的个人信息和密钥替换为占位符,将对应关系保存在当前进程内存中。

返回资讯安全GitHub作者 · GETAI.APP查看原文

PromptAudit 的开源工具 Shield 提供了一个无外部依赖的文本脱敏步骤。程序可以在调用模型前把匹配到的个人信息和密钥替换为占位符,将对应关系保存在当前进程内存中。

主题插画

当模型在回答里引用同一占位符时,应用可以在本地恢复原值。默认规则覆盖电子邮件地址、部分电话号码、银行卡号和已知格式的密钥,开发者也可以补充自己的规则。

项目在文档中列出了边界。规则会漏掉部分没有称谓的人名、自由格式的地址和未知格式的密钥。需要知道实际发送了什么的团队还要单独记录审计信息。

原文 · 相关材料。配图为 GETAI 原创 AI 主题插画。