研究团队提出 Optical Broadcast Memory,通过分层光纤广播让多个推理节点读取同一份模型权重,减少在大量加速器本地重复存放只读参数。 方案用可调整的缓冲时间适配不同上下文与混合专家模型。论文给出数据中心规模的架构评估,比较吞吐和每 Token 能耗;这属于研究方案与建模结果,并非已有商用数据中心全面移除 HBM。 来源:arXiv。 配图:GETAI.APP 原创主题插画,非新闻现场实拍或官方产品界面。