Wiretuple 的开发者 11 月 19 日在 Show HN 介绍了这款开源代理。它针对模型返回的结构化 JSON 和函数调用,在模型端用固定位置的数组表示值,在返回应用前恢复原来的字段名称和结构。
这种方式主要节省输出中反复出现的字段名。项目说明,实际收益取决于字段长度、输出条数和结构,维护者公布的是样例与基准测试结果。
由应用读取的仍是带字段名的 JSON,位置表示只用于与模型交换的数据。
GitHub · 原文 · Hacker News · Show HN
配图为 GETAI.APP 使用 ImageGen 生成的主题插画。
