跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

Sarvam 发布 105B 新权重,提供可在单卡运行的 65 GB 量化版

Sarvam AI 于 11 月 22 日发布 Sarvam-105B-1711,为 3 月推出的模型更新权重,重点改进长对话、工具调用和印度语言任务。

返回资讯模型Sarvam AI作者 · GETAI.APP查看原文

Sarvam AI 于 11 月 22 日发布 Sarvam-105B-1711,为 3 月推出的模型更新权重,重点改进长对话、工具调用和印度语言任务。

主题插画

开发者可以选择 BF16 权重,也可以下载约 65 GB 的 NVFP4 版本。按团队说明,后者可在一张容量足够的工作站 GPU 上运行,给需要自行部署语音客服或工具调用服务的团队多了一种选择。

Sarvam 报告称,在其选取的八项对话智能体基准上,平均成绩从 42.6 升至 73.9。这是开发方在指定评测组合下得到的结果,实际部署还要结合目标语言、工具接口和通话任务测试。

来源原文 · 相关材料。插画由 GETAI 制作。