11 月 19 日,Edge0 在 145B NVFP4 模型卡中修订了部署要求。旧稿把该量化版本标为仅适用 CUDA,新稿将 Apple Silicon 上的 Metal 纳入支持列表。
按项目说明,Q3_K 和 NVFP4 两套目录均可使用 CUDA 或 Metal。在 Metal 后端,NVFP4 的专家参数池位于机器的统一内存中。
文档同时增加了 Apple Silicon 构建指南入口,保留了 Linux 和 Windows 的 NVIDIA 平台指引。这一提交澄清了兼容范围,没有提供不同平台速度相等的测试结果。
配图为 GETAI 原创主题插画。
