跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

Strata 0.2.19 加入 Inkling 2 Mini 本地推理,提供三档权重

最小的 SQ-10 包约 10.47 GB。项目称 4 GiB 显存可配合系统内存运行,完整放入显存则需要更大的显卡。

返回资讯开发工具Strata作者 · GETAI.APP查看原文

11 月 22 日,Strata 发布 0.2.19 版,在桌面应用和终端中加入面向 Inkling 2 Mini 的专用本地推理引擎。发布说明列出的运行平台包括 Windows、Linux、搭载 Apple 芯片的 Mac 以及 DGX Spark。

GETAI 主题插画

项目提供三种权重包。SQ-10 约 10.47 GB,项目给出的全显存运行环境为 12 GiB 显卡,也可在至少 4 GiB 显存的设备上搭配系统内存运行。另两档分别约 14.35 GB 和 19.35 GB。

视觉组件可单独加载,应用会按所选模型下载对应引擎。不同档位和平台的速度需分别测量,以上容量是项目发布说明给出的配置。

原始发布 · 相关记录

配图为 GETAI 原创主题插画。