AMD pokazało potwora z 144 GB pamięci. Zmieści się w zwykłym PC

Czerwoni wyprzedzili Zielonych oferując swoją najnowszą architekturę w przystępniejszej formie. To jednak nadal drogi produkt klasy enterprise, a nie sprzęt typowo konsumencki.

AMD rozszerza rodzinę akceleratorów Instinct MI350 o nowy model, który może okazać się wyjątkowo ważny nie tylko dla centrów AI, ale również firm chcących obsługiwać lokalnie sztuczną inteligencję. W przeciwieństwie do topowych modeli, tutaj zdecydowano się na klasyczną kartę rozszerzeń z interfejsem PCI Express 5.0 x16, dzięki czemu ma być łatwiejsza i tańsza do wdrożenia w serwerach chłodzonych powietrzem.

Szczytowa wydajność sięga 4600 TFLOPS (MXFP4)

AMD Instinct MI350P to propozycja o długości 267 milimetrów z dwuslotowym radiatorem, ale bez własnych wentylatorów. Konstrukcja została przygotowana z myślą o pracy w serwerach rack, gdzie za chłodzenie odpowiada przepływ powietrza generowany przez wentylatory obudowy. Domyślny pobór mocy to 600 W, ale AMD przewidziało też możliwość obniżenia go do 450 W. Czerwoni zdecydowali się tutaj na złącze 12V-2×6, czyli 16-pinowe rozwiązanie jak w konsumenckiej serii NVIDIA GeForce RTX 5000.

Pod względem specyfikacji MI350P można traktować jako połowę najmocniejszych układów z tej samej serii. Karta bazuje na architekturze CDNA 4 i korzysta z litografii klasy 3 i 6 nm od TSMC. Na pokładzie znalazło się 8192 procesorów strumieniujących z taktowaniem do 2,2 GHz. Całość uzupełnia 144 GB szybkiej pamięci HBM3E o przepustowości 4 TB/s.

AMD podkreśla natywne wsparcie dla formatów MXFP6 i MXFP4, które mają przyspieszać pracę dużych modeli językowych. W jednym systemie można połączyć do ośmiu kart MI350P, skalując wydajność w zależności od potrzeb. Producent kieruje ten model zarówno do mniejszych, jak i większych wdrożeń AI, ze szczególnym naciskiem na inferencję oraz RAG.

Największym wyzwaniem będzie jednak nie sama specyfikacja, ale ekosystem. NVIDIA od lat dominuje w centrach danych dzięki CUDA, a to dla wielu firm nadal ważniejszy argument niż sama wydajność sprzętu. AMD rozwija konkurencyjne ROCm i coraz mocniej walczy o rynek AI, ale dopiero realne wdrożenia pokażą, czy Instinct MI350P będzie czymś więcej niż tylko imponującym sprzętem na papierze.