ROCm 7.2.0版本发布:强化硬件支持,提升AI性能

AMD最新发布的ROCm 7.2.0版本,增强了硬件兼容性,特别是对Instinct系列显卡的AI性能进行了显著优化。

9效率工具AMDROCmAI性能硬件支持

ROCm 7.2.0版本发布:强化硬件支持,提升AI性能

AMD于1月26日正式发布了ROCm开源软件堆栈的7.2.0版本。该版本对包括Radeon AI PRO R9600D、Radeon RX 9060 XT LP、Radeon RX 7700在内的多款新硬件提供了正式支持。

特别地,ROCm 7.2.0在Instinct MI355X上对Meta Llama 3.1 405B模型的推理性能进行了显著提升,通过内核级调优和内存带宽的增强,实现了更高的吞吐量和更低的延迟。

AMD ROCm 7.2.0 正式发布:支持多款新硬件,优化 Instinct AI 性能插图

此外,该版本还对Llama 3 70B和Llama 2 70B在MI355X、MI350X上的性能进行了优化,并在MI300X上提升了智谱 GLM-4.6的GEMM算子性能和DeepSeek的DeepEP开源通信库表现。

ROCm 7.2.0还包括了提升HIP运行时性能和新增对多GPU节点的节点电源管理等改进。

更多详细信息,请访问