沐曦股份于 11 月 20 日宣布,曦云 C 系列 GPU 完成腾讯混元 Hy4 适配。此前对 Hy4 Flash 的支持对应另一款模型,此次公告针对同期开放权重的旗舰 Hy4。
适配使用沐曦的 MXMACA 软件栈,涉及驱动、编译器、算子和上层推理框架。沐曦称模型可在其 C 系列平台运行。具体应用的吞吐量和延迟仍取决于卡型、卡数和输入长度。
与众智 FlagOS 社区合作提供的 W8A8 版本,将权重和激活值均以 8 位量化方式表示。魔搭社区的模型条目明确标注了 Hy4、沐曦与 FlagOS,便于使用者区分硬件对应的发布物。
配图为 GETAI 原创主题插画。
