Bezpečnostní výzvy pro ChatGPT

Pokud jste se v posledních měsících nenacházeli na odlehlém místě bez přístupu k internetu, pravděpodobně dobře víte, kolik humbuku a obav se objevilo kolem ChatGPT, chatbota s umělou inteligencí (AI) vyvinutého společností OpenAI. Možná jste viděli články o akademicích a učitelích, kteří se obávají, že díky němu bude podvádění snadnější než kdykoli předtím. Na druhé straně mince jste možná viděli články, které evangelizovaly všechny potenciální aplikace ChatGPT.

Případně vás možná polechtaly některé esoteričtější příklady lidí, kteří tento nástroj používají. Jeden uživatel jej například využil k napsání návodu na odstranění sendvičů s burákovým máslem z videorekordéru ve stylu Bible krále Jakuba. Jiný jej požádal, aby napsal píseň ve stylu Nicka Cavea; zpěvák nebyl výsledkem příliš nadšený.

Uprostřed všeho toho humbuku a diskusí však nebyla věnována dostatečná pozornost rizikům a přínosům, které nástroje umělé inteligence, jako je ChatGPT, představují v oblasti kybernetické bezpečnosti.

Porozumění ChatGPT

Abychom si udělali jasnější představu o tom, jak tato rizika a odměny vypadají, je důležité lépe pochopit, co ChatGPT je a čeho je schopen.

ChatGPT (nyní ve své nejnovější verzi ChatGPT-4, vydané 14. března 2023) je součástí větší rodiny nástrojů umělé inteligence vyvinutých americkou společností OpenAI. Ačkoli se oficiálně nazývá chatbot, nevystihuje to zcela jeho všestrannost. Je vycvičen pomocí technik učení pod dohledem i posilování a dokáže toho mnohem více než většina chatbotů. V rámci svých odpovědí dokáže generovat obsah na základě všech informací, na kterých byl vyškolen. Tyto informace zahrnují obecné znalosti i programovací jazyky a kód. Díky tomu dokáže například simulovat celou chatovací místnost, hrát hry jako piškvorky a simulovat bankomat.

Pro podniky a další velké organizace je však ještě důležitější, že může pomoci zlepšit služby zákazníkům díky personalizovanějším a přesnějším zprávám. Dokáže dokonce psát a ladit počítačové programy. Některé z těchto a dalších funkcí znamenají, že by mohl být spojencem i hrozbou v oblasti kybernetické bezpečnosti.

Vzdělávání, filtrování a posilování obrany

Pozitivní je, že ChatGPT má mnoho co říct. Jedna z nejcennějších rolí, kterou by mohla hrát, je zároveň jedna z nejjednodušších: odhalování phishingu. Organizace by mohly ve svých zaměstnancích zakořenit návyk, že pomocí ChatGPT zjistí, zda obsah, kterým si nejsou jisti, je phishing nebo zda byl vytvořen se zlým úmyslem.

To je důležité, protože přes veškerý technologický pokrok, kterého bylo v posledních letech dosaženo, zůstávají útoky sociálního inženýrství, jako je phishing, jednou z nejúčinnějších forem počítačové kriminality. Z výzkumu totiž vyplývá, že z kybernetických útoků úspěšně identifikovaných ve Spojeném království v roce 2022 jich 83 % zahrnovalo nějakou formu phishingu.

Samozřejmě existuje řada dalších způsobů, jak lze ChatGPT využít k posílení kybernetické bezpečnosti. Může například poskytovat určitou pomoc mladším pracovníkům v oblasti bezpečnosti, ať už jde o sdělování případných problémů nebo o pomoc při lepším pochopení kontextu toho, na čem mají v daném okamžiku pracovat. Mohl by také pomoci týmům s nedostatečnými zdroji při kurýrování nejnovějších hrozeb a při identifikaci interních zranitelností.

AI mohou používat i ti zlí…

Ale i když odborníci na kybernetickou bezpečnost zkoumají způsoby, jak ChatGPT využít ve svůj prospěch, kyberzločinci to dělají také. Mohou například využít jeho schopnost generovat škodlivý kód. Případně ji mohou využít ke generování obsahu, který se tváří jako vytvořený člověkem a který může sloužit k oklamání uživatelů, aby nevědomky klikali na škodlivé odkazy, což může vést k nebezpečným následkům.

Někteří dokonce používají ChatGPT k přesvědčivému napodobování legitimních asistentů umělé inteligence na firemních webových stránkách, čímž se otevírá nová cesta v boji proti sociálnímu inženýrství. Nezapomeňte, že úspěch kyberzločinců do značné míry závisí na schopnosti zaměřit se na co nejvíce možných zranitelností, co nejčastěji a nejrychleji. Nástroje umělé inteligence, jako je ChatGPT, jim to umožňují tím, že v podstatě fungují jako nadstavbový asistent, který může pomoci vytvořit všechny prostředky potřebné pro škodlivé kampaně.

Využijte dostupné nástroje

Mělo by tedy být jasné, že pokud kyberzločinci používají ChatGPT a další nástroje AI k vylepšení svých útoků, měl by je váš bezpečnostní tým používat také k posílení vašeho úsilí o kybernetickou bezpečnost. Naštěstí na to nemusíte být sami.

Správný poskytovatel zabezpečení se nebude zabývat pouze neustálým výzkumem toho, jak kyberzločinci využívají nejnovější technologie k vylepšení svých útoků, ale také tím, jak lze tyto technologie využít ke zlepšení detekce, prevence a obrany před hrozbami. A vzhledem ke škodám, které může kybernetický útok napáchat na vaší kritické infrastruktuře, je to něco, o čem by vás měl také proaktivně informovat.