Výbory EU dávají zelenou Aktu o umělé inteligenci

Evropská unie se v současnosti tématem umělé inteligence zabývá opravdu ve velkém. A my se nyní podíváme, jak se tato problematika vyvíjí v dnešních dnech.

Všechno to začalo už v roce 2021, pořádný spád ale věci dostaly až v druhé polovině loňského roku – prakticky po nástupu chatbota ChatGPT.

Evropská rada tehdy na svém oficiálním českém webu uvedla:

Rada přijala společný postoj („obecný přístup“) k aktu o umělé inteligenci. Jeho cílem je zajistit, aby systémy umělé inteligence (AI), které budou uváděny na trh EU a používány v Unii, byly bezpečné a byly v souladu se stávajícími právními předpisy o základních právech a hodnotách Unie.

Návrh nařízení, který Komise předložila v dubnu 2021, je klíčovým prvkem politiky EU na podporu rozvoje a zavádění bezpečné a legální AI, která respektuje základní práva, na celém jednotném trhu.

„Umělá inteligence má pro naši budoucnost zásadní význam. Dnes se nám podařilo dosáhnout křehké rovnováhy, která podpoří inovace a zavádění technologií umělé inteligence v celé Evropě. Se všemi výhodami, jež tyto technologie přinášejí, na straně jedné a při plném respektování základních práv našich občanů na straně druhé.“
Ivan Bartoš, místopředseda vlády pro digitalizaci a ministr pro místní rozvoj České republiky

A jaké je aktuální dění?

Jedná se o významný krok ve vývoji regulace umělé inteligence v Evropě, neboť se jedná o vůbec první pravidla pro umělou inteligenci. Cílem pravidel je zajistit, aby systémy umělé inteligence byly bezpečné, transparentní, sledovatelné a nediskriminační.

Předseda Evropské komise, prohlásil:

„Jsme na pokraji zavedení přelomových právních předpisů, které musí odolat výzvě času. Je nezbytné vybudovat důvěru občanů ve vývoj umělé inteligence, stanovit evropskou cestu pro řešení mimořádných změn, které již probíhají, a také usměrnit politickou debatu o umělé inteligenci na celosvětové úrovni.“
Brando Benifei

On osobně je navíc přesvědčen, že jejich znění vyvažuje ochranu základních práv s potřebou poskytnout podnikům právní jistotu a stimulovat inovace v Evropě.

Spoluzpravodaj Dragos Tudorache (Renew, Rumunsko) dodal:

„Vzhledem k hlubokému transformačnímu dopadu, který bude mít umělá inteligence na naši společnost a ekonomiku, je Akt o umělé inteligenci velmi pravděpodobně nejdůležitějším právním předpisem v tomto mandátu. Je to první právní předpis tohoto druhu na světě, což znamená, že EU může být lídrem v tom, aby se umělá inteligence zaměřila na člověka, byla důvěryhodná a bezpečná.

Usilovali jsme o to, abychom podpořili inovace v oblasti UI v Evropě a poskytli začínajícím podnikům, malým a středním podnikům a průmyslu prostor pro růst a inovace a zároveň chránili základní práva, posílili demokratický dohled a zajistili vyspělý systém správy a prosazování UI.“

Pravidla jsou založena na přístupu založeném na riziku a stanovují povinnosti pro poskytovatele a uživatele v závislosti na míře rizika, které může systém UI generovat. Systémy UI s nepřijatelnou mírou rizika pro bezpečnost lidí by byly přísně zakázány, včetně systémů, které používají podprahové nebo záměrně manipulativní techniky, zneužívají zranitelnosti lidí nebo jsou využívány k sociálnímu bodování.

Poslanci rovněž podstatně změnili seznam zakázaných praktik umělé inteligence tak, aby zahrnoval zákaz rušivého a diskriminačního využívání těchto systémů, jako jsou systémy dálkové biometrické identifikace v reálném čase na veřejně přístupných místech, systémy následné dálkové biometrické identifikace (s výjimkou systémů pro účely vymáhání práva), systémy biometrické kategorizace využívající citlivé charakteristiky, prediktivní policejní systémy, systémy rozpoznávání emocí v oblasti vymáhání práva, správy hranic, na pracovišti a ve vzdělávacích institucích a nevybíravé získávání biometrických údajů ze sociálních médií nebo záznamů průmyslových kamer za účelem vytváření databází pro rozpoznávání obličejů.

Poslanci rovněž rozšířili klasifikaci vysoce rizikových oblastí o poškozování zdraví, bezpečnosti, základních práv nebo životního prostředí. Na seznam vysoce rizikových oblastí přidali také systémy umělé inteligence, které ovlivňují voliče v politických kampaních, a doporučovací systémy používané platformami sociálních médií.

Aby podpořili inovace v oblasti AI, přidali poslanci do těchto pravidel výjimky pro výzkumné činnosti a komponenty AI poskytované na základě licencí s otevřeným zdrojovým kódem. Nový zákon rovněž podporuje regulační pískoviště – neboli kontrolovaná prostředí zřízená veřejnými orgány – pro testování AI před jejím nasazením.

Evropští oslanci chtějí posílit právo občanů podávat stížnosti na systémy UI a obdržet vysvětlení rozhodnutí založených na vysoce rizikových systémech UI, které mají významný dopad na jejich práva. Poslanci rovněž reformovali úlohu Úřadu EU pro umělou inteligenci, který by měl za úkol sledovat, jak je prováděn soubor pravidel pro umělou inteligenci.

Tim Wright, partner pro regulaci technologií a umělé inteligence v londýnské advokátní kanceláři Fladgate, k tomu uvedl:

„Američtí vývojáři umělé inteligence pravděpodobně seberou svým evropským konkurentům náskok vzhledem k tomu, že parlamentní výbory EU daly zelenou průlomovému zákonu o umělé inteligenci, v němž budou muset být systémy umělé inteligence od počátku kategorizovány podle potenciálu škodlivosti.“

Americký versus evropský přístup

Americký technologický přístup je obvykle takový, že se nejprve experimentuje, a jakmile se zjistí, že produkt a trh jsou vhodné, přizpůsobí se jiným trhům a jejich regulačnímu rámci. Tento přístup podporuje inovace, zatímco vývojáři UI v EU budou muset vzít na vědomí nová pravidla a vyvinout systémy a procesy, které mohou jejich schopnost inovovat omezit.

Spojené království zaujímá podobný přístup jako USA, ačkoli blízkost trhu EU znamená, že vývojáři se sídlem ve Spojeném království se budou s větší pravděpodobností přizpůsobovat pravidlům EU od samého počátku. Nicméně možnost experimentovat v bezpečném prostoru – regulačním pískovišti – se může ukázat jako velmi atraktivní.“

Před zahájením jednání s Radou o konečné podobě zákona musí tento návrh mandátu k jednání schválit celý Parlament, přičemž hlasování se očekává během zasedání ve dnech 12.-15. června.