跳转到正文
GETAI.APP
开发动态arXivGETAI.APP查看原文

PECA 让小模型医学推理回答更短,保留任务表现

在指定小模型实验中缩短医学题回答,结果不等于实际临床诊疗能力。

医疗符号主题插画

PECA 在 QLoRA 监督微调目标中加入可微分的简洁性项,让生成超过设定预算后更容易结束,不依赖额外偏好模型或教师模型。

作者在一个 17 亿参数模型和指定医学推理数据上报告,平均回答长度减少 72.8%,多项选择诊断题准确率从 40.8% 提高到 44.0%。这些是离线题目测试,不能等同于临床诊疗效果或医疗器械审批结果。

来源:arXiv。

配图:GETAI.APP 原创主题插画,非新闻现场实拍或官方产品界面。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?