V současné éře, kdy společnosti intensivně investují do vývoje systémů umělé inteligence, se stává nezbytností počítat s vysokou výpočetní kapacitou. Grafické procesory (GPU) jsou v tomto kontextu klíčové, neboť poskytují potřebnou sílu pro provoz rozsáhlých jazykových modelů a efektivní zpracování obrovského množství dat. A přestože GPU jsou tradičně spojovány s videoherním průmyslem, jejich role se rozšiřuje i do jiných oblastí. Avšak nedávná studie odhalila bezpečnostní nedostatky v některých běžných typech GPU, včetně těch od společností jako Apple, Qualcomm a AMD, což může vést k významnému riziku úniku dat.
Nedostatečná ochrana GPU
Zatímco bezpečnost centrálních procesorů (CPU) byla po léta neustále zdokonalována, GPU, navržené primárně pro grafický výkon, nebyly stejně intenzivně přizpůsobeny ochraně soukromých a citlivých dat. Tento aspekt přitáhl pozornost výzkumníků z bezpečnostní firmy Trail of Bits, zejména vzhledem k narůstajícímu využívání GPU v aplikacích strojového učení.
Specifická zranitelnost, pojmenovaná „LeftoverLocals“, vyžaduje alespoň částečný přístup k operačnímu systému cílového zařízení a umožňuje extrakci dat, která by měla zůstat skryta. To zahrnuje například informace generované velkými jazykovými modely. Pojďme se ale na to podívat podrobněji.
Co je to LeftoverLocals?
LeftoverLocals představuje bezpečnostní zranitelnost v grafických procesorech (GPU), která umožňuje neautorizovaný přístup k datům uloženým v paměti GPU. Tato slabina spočívá v nedostatečném vymazávání dat z paměti po jejich použití, což následně umožňuje útočníkům s částečným přístupem k operačnímu systému zařízení získat zbytková data. Tyto informace mohou obsahovat citlivé údaje, jako jsou dotazy a odpovědi generované jazykovými modely, či dokonce interní parametry těchto modelů. Zranitelnost LeftoverLocals tak představuje vážné bezpečnostní riziko v době rostoucího využívání GPU v různých technologických aplikacích.
Obrázek 1 – Midjourney V6: Symbol zámku v kyberprostoru
Proč jsou GPU tak zranitelné oproti CPU?
Proč jsou ale na tom jednotky CPU lepší? Tak tedy CPU (centrální procesorové jednotky) jsou historicky lépe vybaveny v oblasti bezpečnostních opatření než GPU (grafické procesorové jednotky) z několika důvodů:
Primární Funkce a Design: CPU byly od začátku navrženy jako univerzální procesory schopné zvládat širokou škálu úloh, včetně těch, které vyžadují zabezpečení a správu dat. Na druhou stranu, GPU byly původně vyvíjeny primárně pro grafické zpracování, kde hlavním cílem byl výkon, nikoli bezpečnost.
Bezpečnostní Vylepšení v Průběhu Času: Bezpečnost CPU byla v průběhu let důkladně vylepšována, jelikož tato zařízení často zpracovávají a uchovávají citlivé informace a jsou středobodem počítačových systémů. Naproti tomu, bezpečnostní aspekty GPU nebyly považovány za prioritní až do nedávné doby.
Rozdíly ve Vývoji a Aplikacích: CPU jsou využívány ve větší škále aplikací, které zahrnují citlivé operace, jako je zpracování osobních údajů, finanční transakce a jiné kritické úlohy. Tyto aplikace vyžadují robustní bezpečnostní protokoly. GPU naopak byly dlouho využívány hlavně v oblastech, kde bezpečnost nebyla hlavním zaměřením, jako je renderování obrazu a herní průmysl.
Komplexita Bezpečnostních Výzev: Bezpečnostní výzvy spojené s CPU jsou dlouhodobě dobře známé a prozkoumané, což vedlo k vyvinutí pokročilých bezpečnostních opatření. U GPU jsou tyto výzvy relativně novější a složitější, zejména kvůli jejich paralelní povaze a rozdílné architektuře.
Toto vše vede k tomu, že v oblasti zabezpečení dat a ochrany soukromí jsou CPU obecně považovány za bezpečnější než GPU, ačkoliv se to s rostoucím využíváním GPU v rozličných aplikacích mění a výrobci GPU nyní věnují více pozornosti také bezpečnostním aspektům.
Obrázek 2 – Midjourney V6: Symbol zámku v kyberprostoru
Studie provedená na čipech AMD, Apple a Qualcomm odhalila nová rizika
Výzkumný tým testoval 11 čipů od sedmi výrobců GPU a zjistil, že zranitelnost LeftoverLocals ovlivňuje produkty od Apple, AMD a Qualcomm. Tyto společnosti reagovaly prohlášením o vývoji bezpečnostních aktualizací. Apple již například integroval opravy do svých nových procesorů M3 a A17, zatímco Qualcomm a AMD oznámily plány na vydání bezpečnostních záplat.
Výzvou však zůstává implementace a distribuce těchto oprav výrobců čipů do koncových zařízení, což zvyšuje složitost problému. Dále, charakter zranitelnosti umožňuje útočníkům využít kombinaci několika slabých míst v systému, kvůli čemuž se zvyšuje riziko zejména u zařízení s více uživateli.
Budeme v budoucnu čelit masivním datovým únikům?
Otázka masivních datových úniků v budoucnu zůstává na korporacích, které své zařízení s grafickými čipy distribuují. Tato studie jasně poukazuje na rostoucí nutnost posílení zabezpečení GPU, obzvláště v éře jejich rozšířeného využívání v mnoha aplikacích, od cloudových služeb po zařízení s integrovanými systémy na čipu (SoC). Bez podstatných vylepšení v ochraně paměti GPU hrozí riziko masivních datových úniků v důsledku jediného útoku.
Shrnutí
- Nedávný výzkum odhalil bezpečnostní slabinu v GPU od společností Apple, Qualcomm a AMD.
- Zranitelnost, označovaná jako LeftoverLocals, vyžaduje určitý přístup k operačnímu systému zařízení. Díky němu lze extrahovat data z miliónů zařízení, které v sobě mají grafické čipy těchto korporací.
- Společnosti pracují na bezpečnostních aktualizacích, přičemž Apple již zahrnul opravy do svých nejnovějších procesorů.
- Výsledky studie zdůrazňují potřebu lepšího zabezpečení GPU vzhledem k jejich rostoucímu využití v různých aplikacích.
Zdroj:
- Newman, L. H. (2024, January 16). A flaw in millions of Apple, AMD, and Qualcomm gpus could expose Ai Data. Wired. https://www.wired.com/story/leftoverlocals-gpu-vulnerability-generative-ai/