SK 海力士于韩国时间 11 月 20 日发布 SC26 展会记录。现场演示以 MARS 内存中心机架为平台,把多个服务器使用的内存和缓存放进可共享的资源池。
其中一项演示使用 CXL 内存池共享语言模型生成的 KV 缓存。厂商还演示了算力节点协同使用内存池,以及多模态服务的 CPU 处理节点共享 token。
这些是展会中的技术演示。厂商此次披露了实验用途,商用供货时间仍待另行公布。
配图为 GETAI.APP 使用 ImageGen 生成的主题插画。
GETAI EDITORIAL DISPATCH新闻报道
厂商在 SC26 演示机架内的缓存共享、多个服务器共用内存,以及多模态处理中的 token 共享。