11 月 19 日公开的预印本介绍 Sightline。它研究软件把不同数据填进提示词后,哪些输入可能被语言模型用于生成结果。
作者在 Lean 4 中形式化证明了部分数据流结论,并用模型内部信号生成摘要,以减少把所有输入一概标成流入结果的情况。
论文指出,较弱的信号不足以证明两项数据完全无关。结果作为应用审计和数据流分析的辅助证据。
配图为 GETAI.APP 使用 ImageGen 生成的主题插画。
GETAI EDITORIAL DISPATCH新闻报道
研究为调用语言模型的程序生成数据流摘要,并在 Lean 4 中验证相关理论结论。