PromptAudit 的开源工具 Shield 提供了一个无外部依赖的文本脱敏步骤。程序可以在调用模型前把匹配到的个人信息和密钥替换为占位符,将对应关系保存在当前进程内存中。
当模型在回答里引用同一占位符时,应用可以在本地恢复原值。默认规则覆盖电子邮件地址、部分电话号码、银行卡号和已知格式的密钥,开发者也可以补充自己的规则。
项目在文档中列出了边界。规则会漏掉部分没有称谓的人名、自由格式的地址和未知格式的密钥。需要知道实际发送了什么的团队还要单独记录审计信息。
GETAI EDITORIAL DISPATCH新闻报道
PromptAudit 的开源工具 Shield 提供了一个无外部依赖的文本脱敏步骤。程序可以在调用模型前把匹配到的个人信息和密钥替换为占位符,将对应关系保存在当前进程内存中。