Evropský parlament hlasovat pro přijetí nové legislativy AI Act

Evropský parlament udělal významný krok  v oblasti regulace umělé inteligence, kdy drtivá většina poslanců hlasovala pro přijetí nového zákona, jehož hlavním cílem je omezit umělou inteligenci se získáním větší kontroly nad jejím vývojem a integrací do společnosti.

Rizikový přístup k regulaci AI

Zákon se snaží regulovat AI na základě jejího potenciálního rizika a následuje tak rizikový přístup. Zakazuje aplikace, které představují nepřijatelné riziko, zatímco na vysokorizikové případy modelů umělé inteligence klade přísné regulace.

Již nějakou dobu bylo načasování implementace tohoto zákona mezi poslanci rozporuplné, nicméně Dragoș Tudorache, jeden z hlavních zpravodajů Evropského parlamentu o zákonu AI Act, zdůraznil, že nyní nastal správný čas pro regulaci AI vzhledem k jejímu potenciálnímu dopadu na společnost.

Výzva regulace AI

Dr. Ventsislav Ivanov, expert na AI a lektor na Oxford Business College, prohlásil: „Regulace umělé inteligence je jednou z nejdůležitějších politických výzev naší doby a EU by v tomto případě rozhodně neměla zaostávat, modely umělé inteligence již v této rané době začínají zcela přehodnocovat způsob jakým žijeme a pracujeme, spolu s ní se však objevují i mnohá rizika, kterým budeme muset čelit. Přístup Evropské unie je tedy v tomto případě chvalitebný.

Jak nám ale ukazuje bouře názorů a debat, které se kolem tohoto zákona strhli, cesta k regulaci umělé inteligence zdaleka nebude procházkou růžovou zahradou. Postavit se na odpor globálním technologickým gigantům a dalším zúčastněným stranám tak trochu připomíná Herkulův mýtický boj se sedmihlavou hydrou. Evropská unie však není něco, co by se mělo lehkovážně opomíjet. V případě odporu globálních technologických gigantů, by EU mohla kompletně odříznout služby ze svého prostoru, a tím je tak připravit o nezanedbatelné příjmy, které korporace z evropských zemích získávají.

Diskuse o biometrické identifikaci

Jedním z hlavních bodů sporu bylo využití dálkové biometrické identifikace, kde liberální a progresivní zákonodárci usilovali o zákaz jejího využívání v reálném čase, s výjimkou ex-post vyšetřování vážných trestných činů. Středopravá Evropská lidová strana se pokusila zavést výjimky pro mimořádné okolnosti, jako jsou teroristické útoky nebo pohřešované osoby, jejich snahy byly však neúspěšné.

Přísnější regulace pro základní modely AI

S přijetím zákona bude zaveden stupňovitý přístup k modelům AI, to znamená, že pro různé AI modely budou zavedená různá opatření. Zatímco přísné regulace budeme moci čekat obzvláště u velkých modelů generativní AI, jako je ChatGPT nebo Google Bard, modely s menším potenciálem nebezpečí, jako třeba AI model pro kuchyňského robota, se dočkají mírnějších regulací.

Evropský parlament má mimo jiné v úmyslu zavést povinné označování obsahu generovaným umělou inteligencí a požadovat zveřejnění tréninkových dat chráněných autorskými právy. Tento krok přichází v době, kdy generativní zcela začala měnit naši společnost a za velmi krátkou dobu si získala širokou pozornost od uživatelů, až po technologické korporace a vládní systémy – což vedlo Evropskou komisi k zahájení iniciativ pro podporu mezinárodního konsensu na téma regulací umělé inteligence.

Rozšíření seznamu zakázaných praktik

Poslanci Evropského parlamentu provedli několik významných změn v zákoně o AI, včetně rozšíření seznamu zakázaných praktik o subliminální (nevědomé) techniky, biometrické kategorizace, prediktivní policejní práce, databáze rozpoznávání obličejů získané z internetu a softwary pro rozpoznávání emocí.

Ačkoli by mnohé z těchto praktik mohly být využity pro dobrý účel, existují zde jistá rizika týkající se soukromí, diskriminace a stereotypů, které by AI modely mohly vytvářet.

Kromě toho byla zavedena další vrstva pro vysokorizikové aplikace AI a rozšířen seznam vysokorizikových oblastí a případů užití v oblasti vymáhání práva, kontroly migrace a doporučovacích systémů prominentních sociálních mediálních platforem – konkrétně se jedná o algoritmy, které jsou využívány sociálními sítěmi jako je Facebook, TikTok, Instagram a další. 

Právě tyto sociální sítě využívají velmi dobře natrénované algoritmy pro personalizaci obsahu svým uživatelům, a přestože tato myšlenka nezní špatně, zejména nezkušení uživatelé mohou uváznout ve smyčce levného dopaminu, kdy je algoritmus schopný udržet jejich pozornost na sociálních sítí po dobu klidně i několika hodin. Nejenže to pak vede k závislostem, ale často se u lidí prohlubují pocity úzkosti, nespokojenosti či deprese. 

Dopad na startupy a investice

Robin Röhm, CEO společnosti Apheris, komentoval: „Přijetí plenárního (konání za účasti všech členů) hlasování o zákonu EU o AI představuje významný milník v oblasti regulací pro umělou inteligenci, tato skutečnost nicméně vyvolává více otázek, než kolik jich sama zodpovídá. Pro start-upy tudíž bude mnohem obtížnější prosadit se na poli trhu a investoři budou investovat s menší pravděpodobností do společností působících v EU.

Je naprosto klíčové, aby byl kapitál schopen volně proudit do podnikatelských aktivit v oblasti AI, zvláště s ohledem na náklady spojené s vývojem technologií umělé inteligence. Avšak rizikový preventivní přístup k regulaci, který EU navrhuje, pravděpodobně přinese značnou dodatečnou zátěž pro evropský ekosystém a investice do start-upů či firem zabývajícími se umělou inteligencí se tak stanou méně lákavými.

Další kroky v regulaci AI

S přijetím postoje Evropského parlamentu k zákonu o AI začnou mezi instituční vyjednávání s Radou ministrů Evropské unie a Evropskou komisí. Vyjednávání, často označovaná jako trilogie, se budou zaměřovat na zásadní otázky sporu, včetně kategorií s vysokým rizikem, základních práv a soukromí uživatelů.

Španělsko, které se v červenci ujímá rotujícího předsednictví Rady, stanovilo dokončení zákona o AI jako svou hlavní digitální prioritu. S cílem dosáhnout dohody do listopadu, je v plánu několik trilogií jako bezpečnostní síť (záložní plán).

U vyjednávání se očekává, že se v nadcházejících měsících jeho proces zintenzívní z důvodu, kdy se EU snaží stanovit komplexní regulace pro AI, vyvážit inovace a zároveň zajistit ochranu základních uživatelských práv.

Klíčem dobré regulace je zajistit řešení všech bezpečnostních pochybností, aniž by se zabránilo inovacím a snížení konkurence schopnosti s ostatními hráči v poli, jako je USA nebo Čína. Zůstává jenom otázkou, zda to EU dokáže,“ uzavírá Röhm.