Lisa Su, generální ředitelka společnosti AMD, představila na veletrhu CES 2023 v Las Vegas nejnovější GPU pro umělou inteligenci, MI300X. Tento čip, který by měl být zákazníkům dodán ještě letos, představuje největší výzvu pro společnost Nvidia, která v současnosti ovládá více než 80% trhu s AI čipy, a která nedávno dosáhla velkého milníku ve své tržní hodnotě, kdy přesáhla hranici 1 bilionu dolarů.
Co je to GPU a jak funguje?
Grafické procesory (GPU) jsou klíčové zejména pro firmy jako je OpenAI, DeepMind nebo Adobe Systems, které využívají GPU čipy k vývoji špičkových AI modelů. Do těchto modelům můžeme zařadit například ChatGPT (OpenAI), AlphaFold (Deepmind) nebo Adobe FireFly (Adobe). GPU je druh elektronického obvodu, který zprostředkovává grafický výstup do naší obrazovky. GPU je tak určené pro počítání velkého množství jednoduchých operací, jako je například barva jednotlivých pixelů na obrazovce. Z toho důvodu můžeme jejich využití najít převážně v herním průmyslu, 3D modelingu nebo kinematografii.
V kontextu umělé inteligence jsou GPU klíčové zejména díky jejich schopnosti provádět velké množství paralelních operací, jež se ukazují jako nezbytné pro trénování a provozování komplexních AI modelů.
Historie AMD a její role na trhu s čipy
Společnost AMD, známá také jako Advanced Micro Devices, je americká společnost specializující se na výrobu polovodičů. Od svého založení v roce 1969 se AMD stala jedním z předních hráčů na trhu s mikroprocesory a grafickými kartami. Její produkty jsou široce využívány v mnoha odvětvích, včetně počítačových systémů, herních konzol a cloudových serverů.
Současný stav trhu s AI čipy
Trh s AI čipy je v současnosti jedním z nejdynamičtějších a nejrychleji rostoucích segmentů polovodičového průmyslu. Vedle Nvidia a AMD se na trhu objevují i další hráči, včetně Intelu a dalších startupů, kteří se výše zmíněným dvou gigantům snaží dosáhnout na paty. Trh se specializovanými čipy pro AI, je poháněn převážně rostoucí poptávkou, která v nedávno době začala rapidně stoupat. Důvodem je velký rozmach vývoje AI modelů, k nimž jsou právě tyto čipy potřebné.
Co to znamená pro Nvidiu?
Příchod nového čipu MI300X od AMD může znamenat značnou výzvu pro společnost Nvidia. Nvidia je v současnosti dominantním hráčem na trhu s AI čipy, nový čip od AMD by však mohl tuto dominantní pozici ohrozit. Je zřejmé, že Nvidia bude muset nějakým způsobem reagovat, ať už prostřednictvím dalších inovací ve svých produktech, vývoje nových čipů nebo pozměněním cen, za které se její čipy prodávají. Jak se říká konkurence je zdravá, a to platí nejenom pro firmy, které si uvědomují, že nesmí usnou na vavřínech, ale i pro spotřebitele, kteří se mohou dočkat lepších cen.
AI jako strategická příležitost
Lisa Su na setkání s investory a analytiky v San Franciscu prohlásila, že AI je pro společnost „největší a nejstrategičtější dlouhodobou růstovou příležitostí“. Předpokládá se, že trh s AI čipy pro datová centra poroste z aktuálních 30 miliard dolarů na více než 150 miliard dolarů do roku 2027.
Cena a dopad na trh
I když společnost AMD zatím nezveřejnila cenu svého nového čipu, jeho příchod by mohl vyvinout tlak na ceny GPU od Nvidie, která by musela snížit cenu svých produktů za cenu zachování si zákazníků. Pro zajímavost model H100, který je popisován jako jeden z nejrychlejších čipů na světě pro generativní AI modely, může stát kolem 30 000 dolarů. Díky nižším cenám GPU by tak mohlo dojít ke snížení vysokých nákladů na provoz generativních AI aplikací, což by usnadnilo začátky začínajícím startupům, kteří si nemohou dovolit vložit do svých projektů příliš velké peníze.
MI300X: Nový hráč na poli AI čipů
Nový čip MI300X od AMD a jeho architektura CDNA byly navrženy pro velké jazykové AI modely. „V centru veškeré dění jsou GPU, díky nimž můžeme provozovat AI modely provozovat.“ řekla Su.
MI300X může využívat až 192 GB paměti, jen pro představu vlajkový čip společnosti Nvidia H100 podporuje „pouze“ 120 GB paměti.
Náročnost Velkých jazykových modelů
Velké jazykové modely pro generativní AI aplikace vyžadují velký objem paměti, která je využívána zejména pro enormní kvanta výpočtů, pomocí nichž si modely trénují. Na své prezentaci AMD ukázalo využití jejich čipu v modelu Falcon, který disponoval až 40 miliardami parametrů. Když to porovnáme s modelem GPT-3 od OpenAI, který je známý svými 175 miliardami parametrů, je zřejmé, že čip MI300X od AMD je horkým kandidátem pro jednoho z nejsilnějších čipů současné doby.
„Velikosti modelů se zvyšují a pro provoz nejnovějších velkých jazykových modelů budeme skutečně potřebovat schopnější GPU,“ uvedla Su. Zároveň také dodala, že díky větší čipové paměti, by se mělo snížit i množství potřebných GPU.
Inovace v architektuře
AMD se nezastavilo jen u větší paměti. Společnost oznámila, že nabídne Infinity Architecture, která kombinuje osm svých akcelerátorů M1300X v jednom systému. Jedná se o krok který AMD odkoukala od společností typu Nvidia nebo Google, kteří využívají kombinace osmi nebo více GPU v jednom boxu pro AI aplikace za účelem lepšího výkonu.
Softwarová podpora
V minulosti byly čipy Nvidia preferované vývojáři AI modelů, a to především díky dobře vyvinutému softwarovému balíčku CUDA, který jim umožňuje přistupovat k základním hardwarovým funkcím čipu. AMD se ale nenechalo zastavit.
V úterý společnost oznámila svůj vlastní software pro své AI čipy s názvem ROCm. Jak řekl prezident AMD Victor Peng: „I když je to dlouhá cesta, udělali jsme skutečně velký pokrok ve vývoji silného softwarového balíčku, který pracuje s otevřeným ekosystémem modelů, knihoven, frameworků a nástrojů.“ Jak je z prohlášení vidět, AMD je připraveno přijmout výzvu, kterou jí společnosti Nvidia vytyčila, a stát se silným hráčem na poli umělé inteligence.