AMD zieht im KI-Wettrüsten die Handschuhe aus

AMD scheint kampfbereit zu sein. Auf seiner Advancing AI-Veranstaltung stellte das Unternehmen schließlich seine Instinct MI300X AI GPU vor, von der wir vor einigen Monaten zum ersten Mal hörten. Die aufregende Entwicklung ist die Leistung, die AMD im Vergleich zum grünen KI-Elefanten im Raum behauptet: Nvidia.

Spezifikation für Spezifikation behauptet AMD, dass der MI300X die H100 AI-GPU von Nvidia in Bezug auf Speicherkapazität und Speicherbandbreite übertrifft und im FP8- und FP16-Betrieb das 1,3-fache der theoretischen Leistung des H100 erreichen kann. AMD demonstrierte dies mit zwei Large Language Models (LLMs), die einen mittleren und einen großen Kernel verwenden. Der MI300X zeigte eine 1,1- bis 1,2-fache Verbesserung im Vergleich zum H100.

In einem Moment, der direkt einer Nvidia-Konferenz entsprungen zu sein scheint, stellte AMDs CEO Lisa Su die MI300X-Plattform vor, die acht der GPUs auf einer einzigen Platine vereint. Laut AMD bieten diese Boards die gleiche Trainingsleistung wie Nvidias H100 HGX und die 1,6-fache Inferenzleistung. Darüber hinaus gibt AMD an, dass Sie zwei LLMs pro System ausführen können, während H100 HGX nur einen verarbeiten kann.

Um zu veranschaulichen, wie groß die Sache ist, hat AMD Kevin Scott, Chief Technology Officer von Microsoft, zu sich geholt, um darüber zu sprechen, wie AMD und Microsoft im Bereich KI zusammenarbeiten. Es ist wichtig hervorzuheben, dass das äußerst beliebte ChatGPT auf Microsoft-Servern ausgeführt wird und ursprünglich auf Tausenden von Nvidia-GPUs trainiert wurde.

Zusätzlich zum MI300X kündigte AMD laut AMD die MI300A an, die erste APU für KI. Dies kombiniert AMDs CDNA 3 AI GPU-Architektur mit 24 Zen 4 CPU-Kernen sowie 128 GB HBM3-Speicher. AMD sagt, dass dies ein Gleichgewicht zwischen KI-Leistung und Hochleistungsrechnen ist und Rechenzentren die CPU-Leistung bietet, die wir kürzlich beim Threadripper 7000 gesehen haben.

Obwohl AMD mit dem Rest der Tech-Welt auf den KI-Zug aufgesprungen ist, ist es bisher weit hinter Nvidia zurückgetreten. Nvidia hat vor Jahren damit begonnen, große Summen in KI zu investieren, was dem Unternehmen einen enormen Vorsprung gegenüber AMD und Intel verschaffte. Diese frühe Investition hat Nvidia in diesem Jahr zu einem Billionen-Dollar-Unternehmen katapultiert.

Mit einem GPU-Cluster, der in der Lage ist, Nvidias H100 herauszufordern, sowie Partnerschaften mit Meta und Microsoft betritt AMD endlich den Ring. AMD geht zwar mit blauen Flecken und Blutungen davon, aber es sieht immer noch so aus, als wäre AMD bereit, sich zu wehren.