跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

报告生成实验发现,收紧工具权限后仍须单独核对医学结论

在作者的模拟医疗报告流程中,权限重设后报告准确率从 72.5% 提高到 86.5%,内容完整性仍是独立问题。

返回资讯研究arXiv作者 · GETAI.APP查看原文

在作者的模拟医疗报告流程中,权限重设后报告准确率从 72.5% 提高到 86.5%,内容完整性仍是独立问题。

医学报告工具的权限隔离与安全设计

团队比较了原有流程与采用最小权限重新设计的系统,分别记录报告准确率、数据访问和超出任务范围的操作。两个版本接受了同一类评估。

新设计在该实验中没有披露患者记录,但仍出现报告内容被改动的情况。作者据此主张,对生成结论的核验应独立于负责写报告的模型。这些数字来自工作流实验。

原始来源 · 核对材料

配图为 Kearns, Liam 等 的图 6,等比缩放并留白。CC BY 4.0 许可。