11 月 22 日,Strata 发布 0.2.19 版,在桌面应用和终端中加入面向 Inkling 2 Mini 的专用本地推理引擎。发布说明列出的运行平台包括 Windows、Linux、搭载 Apple 芯片的 Mac 以及 DGX Spark。
项目提供三种权重包。SQ-10 约 10.47 GB,项目给出的全显存运行环境为 12 GiB 显卡,也可在至少 4 GiB 显存的设备上搭配系统内存运行。另两档分别约 14.35 GB 和 19.35 GB。
视觉组件可单独加载,应用会按所选模型下载对应引擎。不同档位和平台的速度需分别测量,以上容量是项目发布说明给出的配置。
配图为 GETAI 原创主题插画。
