顶点光电子商城2024年1月23日消息:近日,AMD首批Instinct MI300X已开始交付。
这些加速器主要用于AI和HPC(高性能计算)应用,特别是大型语言模型(LLM)的运行。首批客户包括一些科技巨头,如Meta、谷歌、微软等。
为了力抗英伟达(NVIDIA),MI300X是AMD Instinct MI300系列的高性能版本,主打AI和HPC计算,其放弃了x86CPU核心,而是搭载更多的CDNA3计算单元,总数达到304个,远高于MI300A的228个。此外,MI300X还配备了192GB HBM3高速存储器,最高频宽高达5.3TB/s。
根据AMD官方性能测试,MI300X的表现优于市面上已有的Nvidia H100 80GB,甚至有可能对即将上市的H200 141GB构成威胁。
目前,Meta、微软等巨头客户已采购了大量AMD Instinct MI300系列产品,LaminiAI成为首家公开使用MI300X的公司,该公司与AMD有多年合作,因此优先获得了MI300X的供货。