跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

REACT 补充对照实验,检验推理模型安全判断在生成早期如何形成

团队在同一款 8B 模型上控制编辑预算与测量条件,复查了早期干预的效果。

返回资讯研究arXiv作者 · GETAI.APP查看原文

REACT 研究的是推理模型在生成过程中何时已经显露不安全输出的风险。修订版新增受控实验,在同一模型和相近干预强度下比较生成早期与稍后位置,排查此前结果是否仅来自测量或参数选择。

GETAI 原创主题插画

作者报告,在 DeepSeek-R1-Distill-Llama-8B 的 StrongREJECT-273 评测中,推理和最终回答同时满足安全评分要求的比例从 29.06% 上升至 82.05%。常规请求的有用性与拒答水平在其测试中接近基线。

论文还讨论了措辞、上下文和评测方式对结果的影响。这些数字来自特定模型和这组测试,尚不能说明同样方法在其他模型或实际服务中会有相同效果。

原始报道或公告 · 延伸核对

配图为 GETAI 原创主题插画。