REACT 研究的是推理模型在生成过程中何时已经显露不安全输出的风险。修订版新增受控实验,在同一模型和相近干预强度下比较生成早期与稍后位置,排查此前结果是否仅来自测量或参数选择。
作者报告,在 DeepSeek-R1-Distill-Llama-8B 的 StrongREJECT-273 评测中,推理和最终回答同时满足安全评分要求的比例从 29.06% 上升至 82.05%。常规请求的有用性与拒答水平在其测试中接近基线。
论文还讨论了措辞、上下文和评测方式对结果的影响。这些数字来自特定模型和这组测试,尚不能说明同样方法在其他模型或实际服务中会有相同效果。
配图为 GETAI 原创主题插画。
