蚂蚁集团AI训练技术升级:国产芯片助力,性能超越英伟达H800,成本降低20%

蚂蚁集团采用国产芯片进行AI模型训练,成本降低20%,性能与英伟达H800相当。同时,公司致力于研究更高效训练LLMs的方法,以消除高性能芯片的限制。

12效率工具AI训练国产芯片成本降低性能提升

蚂蚁集团AI训练技术升级

蚂蚁集团近日宣布,其AI模型训练技术已实现重大突破,通过采用国产芯片,成功降低了20%的成本,同时保持了与英伟达H800芯片相当的性能。

据悉,蚂蚁集团在AI模型训练中使用了包括阿里巴巴和华为在内的国内芯片,并采用了混合专家模型(MoE)机器学习方法。这一技术将任务划分为更小的数据集,类似于拥有专家团队,提高了训练效率。

蚂蚁集团采用阿里、华为等国产芯片训练 AI:性能匹敌英伟达 H800,成本降低 20%插图

此外,蚂蚁集团还在研究更有效地训练LLMs的方法,以消除高性能芯片的限制。公司的研究目标是不使用高端GPU扩展模型,这与英伟达的理念形成鲜明对比。

蚂蚁集团的研究成果有望为中国AI发展迈出新的步伐,同时也为其他公司提供了借鉴。

相关链接