A AMD está tirando as luvas na corrida armamentista da IA | ENBLE
A AMD está se despindo na corrida armamentista da IA | ENBLE
A AMD parece pronta para lutar. Em seu evento Advancing AI, a empresa finalmente lançou sua GPU de IA Instinct MI300X, da qual ouvimos falar alguns meses atrás. O desenvolvimento emocionante é o desempenho que a AMD está reivindicando em comparação com o elefante verde de IA na sala: a Nvidia.
Espec por espec, a AMD afirma que a MI300X supera a GPU de IA H100 da Nvidia em capacidade de memória e largura de banda de memória, e é capaz de atingir 1,3 vezes o desempenho teórico do H100 em operações FP8 e FP16. A AMD demonstrou isso com dois Modelos de Linguagem Grande (LLMs) usando um kernel médio e grande. A MI300X mostrou entre 1,1x e 1,2x de melhoria em comparação com o H100.
Em um momento que parece diretamente saído de uma conferência da Nvidia, a CEO da AMD, Lisa Su, apresentou a Plataforma MI300X, que combina oito das GPUs em uma única placa. A AMD diz que essas placas oferecem o mesmo desempenho de treinamento que o H100 HGX da Nvidia e 1,6 vezes o desempenho de inferência. Além disso, a AMD diz que é possível executar dois LLMs por sistema, enquanto o H100 HGX só pode lidar com um.
Para ilustrar a importância disso, a AMD trouxe Kevin Scott, Chief Technology Officer da Microsoft, para falar sobre como a AMD e a Microsoft estão trabalhando juntas em IA. É importante destacar que o extremamente popular ChatGPT é executado em servidores da Microsoft e foi originalmente treinado em milhares de GPUs Nvidia.
Além da MI300X, a AMD anunciou a MI300A, que é a primeira APU para IA, segundo a AMD. Esta combina a arquitetura da GPU de IA CDNA 3 da AMD com 24 núcleos de CPU Zen 4, juntamente com 128GB de memória HBM3. A AMD diz que isso é um equilíbrio entre o desempenho de IA e a computação de alto desempenho, oferecendo o poder de CPU que recentemente vimos no Threadripper 7000 para data centers.
- O Google Gemini tenta superar o ChatGPT com IA para fotos e vídeos
- O beta aberto do KDE Plasma 6 traz inúmeras maravilhas – e vo...
- O que fazer quando você fica sem espaço de armazenamento no Gmail |...
Apesar de ter aderido à onda de IA junto com o resto do mundo da tecnologia, a AMD ficou muito atrás da Nvidia até este ponto. A Nvidia começou a investir pesado em IA anos atrás, dando-lhe uma grande vantagem sobre a AMD e a Intel. Esse investimento inicial catapultou a Nvidia para se tornar uma empresa de trilhões de dólares este ano.
Com um cluster de GPUs que está posicionado para desafiar o H100 da Nvidia, além de parcerias com a Meta e a Microsoft, a AMD finalmente está entrando no ringue. A AMD pode sair machucada e ensanguentada, mas ainda parece que a AMD está pronta para lutar.
