跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

Wiretuple 用位置数组压缩模型输出

开源项目在模型端把长字段名替换为按位置排列的值,再按原结构还原给应用。

返回资讯开发工具GitHub作者 · GETAI.APP查看原文

Wiretuple 的开发者 11 月 19 日在 Show HN 介绍了这款开源代理。它针对模型返回的结构化 JSON 和函数调用,在模型端用固定位置的数组表示值,在返回应用前恢复原来的字段名称和结构。

AI 生成主题插画

这种方式主要节省输出中反复出现的字段名。项目说明,实际收益取决于字段长度、输出条数和结构,维护者公布的是样例与基准测试结果。

由应用读取的仍是带字段名的 JSON,位置表示只用于与模型交换的数据。

GitHub · 原文 · Hacker News · Show HN

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。