英伟达提出全栈协同设计破解 AI 内存瓶颈，HBM 仅增约 3% 时每美元智能体吞吐量最高提升 30 倍

英伟达发布技术解读，提出以“全栈协同设计”缓解 AI 内存瓶颈，通过 NVFP4 低精度格式压缩模型权重和 KV 缓存、在 NVL72 系统中将模型权重分散至最多 72 颗 GPU、用 Vera CPU 的 LPDDR 内存缓冲暂停上下文、由 Dynamo 推理软件把不活跃上下文迁移至 CMX 上下文存储。