已核实事实 三星在OCP Global Summit展示了一套与AMD验证的CXL内存池,方案基于CMM-D CXL内存模块,目标是支持智能体AI推理。来源称,该演示运行于GPU服务器,内存池采用DCD语义,使内存能够在运行时分配给主机,并在任务结束后收回。 演示中的多个LLM实例共享同一内存池,并采用弹性分配方式。当实例遇到上下文或参数峰值时,可以从内存池借用容量;任务完成后,容量再归还给资源池。这里的关键是内存资源能够按照工作负载变化进行动态调度,而不是由每个实例固定占用独立内存。 三星和AMD尚未公布联合演示的服务器配置、CXL交换机拓扑,以及互连延迟和带宽数据。三星也尚未为这项与AMD合作的CXL内存池公布控制器SKU、上市日期或功耗等级。因此,现有信息能够确认方案展示、平台验证和工作负载机制,但不能据此确认具体硬件配置、性能结果或商用可用时间。 此外,来源称,采用CMM-D的AI Memory Node已部署在三星半导体美国园区,用于内部AI编码智能体等应用。三星表示,在该AI Memory Node中增加其所称的L3.5可组合内存层后,KV缓存利用率达到5x至7x