跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

BiVelio 更新本地 AI 用量工具,修正工具筛选与核算

Savings Layer 在主分支修正了工具数量受限时的保留规则,并说明哪些情况下本地网关可以节省费用。

返回资讯开发工具GitHub作者 · GETAI.APP查看原文

BiVelio 于 11 月 20 日把开源用量工具 Savings Layer 的主分支版本号更新到 1.2.3。这个项目可以作为开发包嵌入应用,也能在开发者电脑上充当编码助手的本地网关,逐次读取服务商返回的使用量。此次修改涉及工具列表的处理和使用说明。

AI 生成主题插画

一项修复针对限制可用工具数量的情形。此前,写入类工具可能挤掉模型需要的读取类工具。提交记录说明,新逻辑保留读取能力,并调整当写入工具被移除时的用量核算。另一项修改则纠正了诊断命令对尚未支持操作的提示,避免让使用者误以为配置已经写入。

项目文档还区分了记录用量和实际节省费用两件事。网关可以在本机计量,但其调整缓存写入时长的功能,只在客户端按词元付费且请求一小时缓存等条件下才可能省钱。采集时主分支的清单已标为 1.2.3,npm 的 latest 仍指向 1.2.1,按默认标签安装取得的仍是后者。

GitHub · 版本提交 · npm · 发布记录

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。