VAST Data近日宣布选择第6代AMD EPYC处理器(代号Venice)作为其下一代存储平台的核心计算单元,计划将该处理器部署于第六代CBox和第三代EBox系统中,这两款产品将支撑VAST AI操作系统的运行。 KV Cache卸载技术实现推理效率突破 据厂商测试显示,VAST在AMD Instinct MI355X GPU上进行的早期验证中,采用VAST进行KV Cache卸载处理后,在高并发agentic AI工作负载场景下实现显著性能提升。厂商称首token时间缩短至原来的九分之一,同时token吞吐量提升至原来的近十倍。这一技术通过将GPU内存中的KV Cache数据卸载至专用存储集群,降低了对GPU显存容量的依赖,使更大规模的上下文处理成为可能。 参考架构整合网络与软件生态 VAST、AMD与DriveNets三方正在共同开发围绕AMD Helios rack-scale AI基础设施、VAST AI操作系统及DriveNets AI Fabric网络的AI基础设施参考架构。此外,VAST还宣布与推理软件提供商TensorMesh和EmbeddedLLM扩