跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

沐曦曦云 C 系列完成 Hy4 适配,FlagOS 提供 W8A8 版本

沐曦在 11 月 20 日公告中确认支持腾讯旗舰模型 Hy4。对应的沐曦版量化权重已可在魔搭社区查到。

返回资讯模型沐曦股份作者 · GETAI.APP查看原文

沐曦股份于 11 月 20 日宣布,曦云 C 系列 GPU 完成腾讯混元 Hy4 适配。此前对 Hy4 Flash 的支持对应另一款模型,此次公告针对同期开放权重的旗舰 Hy4。

GETAI 原创主题插画

适配使用沐曦的 MXMACA 软件栈,涉及驱动、编译器、算子和上层推理框架。沐曦称模型可在其 C 系列平台运行。具体应用的吞吐量和延迟仍取决于卡型、卡数和输入长度。

与众智 FlagOS 社区合作提供的 W8A8 版本,将权重和激活值均以 8 位量化方式表示。魔搭社区的模型条目明确标注了 Hy4、沐曦与 FlagOS,便于使用者区分硬件对应的发布物。

发布方原文 · 核对材料

配图为 GETAI 原创主题插画。