DeepSeek R1推理性能提高了3.8倍，AMD发布了下一代开源软件堆栈

IT Home在6月13日报道说，如果AMD在清晨AI 2025上升，AMD正式启动了下一个代代的开源软件堆栈技术ROCM 7，进一步加速了AI和开发人员的生产率。随着ROCM 7的发布，AMD最终从ROCM 6软件堆栈中脱颖而出，该堆栈在过去几年中经历了许多更新，尤其是自AI Computing出现以来。以下是AMD专注于ROCM 7的一些功能：用于扩展AI高级功能的最新算法和模型MI350系列支持通过ROCM来管理业务水平的功能，AMD表示，它更多地关注堆叠软件的趋势日益增长的趋势。 ROCM 7堆栈包括增强的框架，例如VLLM V1，LLM-D，SGLANG，并专注于提供各种优化。即将推出的新ROCM7内核和算法包括Gemm自动调整，MOE，注意力以及基于内核的内核。 AMD宣布了MI350 S的FP6和FP4支持ERIE和ROCM 7还包括对诸如FP8，FP6，FP4和Hybrid Precision等高级数据类型的全面支持。众议院从新闻集会中获悉，在绩效方面，AMD表示，ROCM 7专注于推理，最多可以提高AI工作量的性能3.5倍。具体而言，与ROCM 6相比，Llama 3.1 70b的ROCM 7增加了3.2倍，QWEN2-72B增加了3.4倍，DeepSeek R1增加了3.8倍。