跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

Sightline 追踪语言模型输入对输出的影响

研究为调用语言模型的程序生成数据流摘要,并在 Lean 4 中验证相关理论结论。

返回资讯研究arXiv作者 · GETAI.APP查看原文

11 月 19 日公开的预印本介绍 Sightline。它研究软件把不同数据填进提示词后,哪些输入可能被语言模型用于生成结果。

AI 生成主题插画

作者在 Lean 4 中形式化证明了部分数据流结论,并用模型内部信号生成摘要,以减少把所有输入一概标成流入结果的情况。

论文指出,较弱的信号不足以证明两项数据完全无关。结果作为应用审计和数据流分析的辅助证据。

arXiv · 原文 · arXiv · 全文

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。