跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

MosaicLeaks 评估多次外部查询拼在一起时会透露多少内部信息

在作者对 Qwen3-4B-Instruct 的评测中,隐私导向训练使泄露指标从 34.0% 降至 6.5%,任务准确率从 48.7% 升至 58.1%。

返回资讯研究arXiv作者 · GETAI.APP查看原文

在作者对 Qwen3-4B-Instruct 的评测中,隐私导向训练使泄露指标从 34.0% 降至 6.5%,任务准确率从 48.7% 升至 58.1%。

评审员检查问题与证据的标注界面

研究者构造了 1001 个多跳研究任务,要求助手结合内部文档与公开网页作答。评估既检查单次外部查询,也检查多次查询合在一起是否暴露额外信息。

修订结果指出,简单改写查询在不同模型上的效果不一致。团队据此在训练时同时考虑任务完成与隐私指标,并单独报告两项结果。

原始来源 · 核对材料

配图为 Gurung, Alexander 等 的图 5,等比缩放并留白。CC BY 4.0 许可。