Spolu s narůstajícím povědomí o AI v technologickém světě se tato sféra dostává i do vládních politických sektorů. Ne jinak je tomu v Evropské unii, která svou legislativou AI Act má za cíl regulovat umělou inteligenci s cílem zajistit bezpečnost a zabránit zneužití. Ačkoli USA je v tomto ohledu trochu benevolentnější, neznamená to, že AI ponechá kompletně neregulovanou. Federální agentury USA si tak část kontroly chtějí zajistit zavedením nových rolí hlavních specialistů na umělou inteligenci. Nové pokyny Úřadu pro správu a rozpočet rovněž požadují roční inventarizaci všech systémů umělé inteligence využívaných federálními agenturami.
Každá federální agentura v USA je nyní povinna mít na svém čele vedoucího pracovníka, který bude dohlížet na veškeré systémy umělé inteligence, které využívají, jelikož vláda si přeje zabezpečit bezpečné využívání umělé inteligence ve veřejných službách.
Každoroční kontrola agentury nemine
Viceprezidentka Kamala Harrisová oznámila nové pokyny Úřadu pro správu a rozpočet (OMB) na tiskové konferenci s novináři a uvedla, že agentury musí také zřídit správní rady pro umělou inteligenci, které budou koordinovat využití umělé inteligence v rámci agentury. Agentury budou muset každoročně předkládat Úřadu pro správu a rozpočet zprávu, v níž uvedou všechny systémy umělé inteligence, které využívají, včetně veškerých s nimi spojených rizik a plánů na jejich minimalizaci.
„Přikázali jsme všem federálním agenturám, aby jmenovaly hlavního specialistu na umělou inteligenci s potřebnými zkušenostmi, odborností a pravomocemi pro dohled nad veškerými technologiemi umělé inteligence využívanými danou agenturou. Tímto krokem chceme zabezpečit zodpovědné využívání umělé inteligence, s vědomím, že potřebujeme mít na vedoucích pozicích napříč naší vládou lidi, kteří budou specificky zodpovědní za přijetí a využití umělé inteligence,“ sdělila Harrisová novinářům.
Obrázek 1 – DALL-E 3: Válečný generál ve stylu hry Horizon zero dawn
Navýšení bezpečnostních standardů a počet odborníků na AI ve vládním sektoru
Hlavní specialista na umělou inteligenci nemusí být nutně politickým zastupitelem, i když to závisí na struktuře federální agentury. Správní rady by měly být zřízeny do léta.
Toto usměrnění rozšiřuje dříve oznámené politiky, vytyčené ve výkonném příkazu administrativy prezidenta Bidena, který požadoval, aby federální úřady vytvořily bezpečnostní standardy a zvýšily počet odborníků na umělou inteligenci pracujících ve vládě.
Některé agentury začaly s najímáním hlavních specialistů na umělou inteligenci ještě před čtvrtečním oznámením. Ministerstvo spravedlnosti oznámilo Jonathana Mayera jako svého prvního CAIO v únoru. Mayer bude vést tým expertů na kybernetickou bezpečnost, kteří budou zkoumat, jak využít umělou inteligenci v právním systému.
Podle předsedkyně OMB Shalandy Young plánuje americká vláda do léta najmout 100 odborníků na umělou inteligenci.
Obrázek 2 – DALL-E 3: vlajka USA
Minimalizace bezpečnostních rizik a navýšení transparence
Jednou z odpovědností hlavních specialistů na umělou inteligenci a správních rad je pravidelné sledování jejich systémů umělé inteligence. Young uvedla, že agentury musí předložit inventář produktů umělé inteligence, které agentura využívá. Pokud jsou některé systémy umělé inteligence považovány za „citlivé“ natolik, že by neměly být zahrnuty do seznamu, musí agentura veřejně poskytnout důvod jejich vyloučení. Agentury také musí samostatně hodnotit riziko bezpečnosti každé platformy umělé inteligence, kterou využívají.
Federální agentury musí také ověřit, že každá umělá inteligence, kterou nasazují, splňuje bezpečnostní opatření, která „minimalizují rizika algoritmické diskriminace a poskytují veřejnosti transparentnost ohledně toho, jak vláda umělou inteligenci využívá.“ Faktový list OMB uvádí několik příkladů, včetně:
Na letišti budou mít cestující nadále možnost odmítnout použití rozpoznávání obličeje TSA bez jakéhokoli zpoždění nebo ztráty místa ve frontě.
Když je umělá inteligence využívána ve federálním zdravotnickém systému pro podporu kritických diagnostických rozhodnutí, je nad procesem dohled člověka, který ověřuje výsledky nástrojů a brání rozdílům v přístupu ke zdravotní péči.
Když je umělá inteligence využívána pro detekci podvodů ve vládních službách, existuje lidský dohled nad významnými rozhodnutími a postižené osoby mají možnost hledat nápravu pro škody způsobené umělou inteligencí.
„Pokud agentura nemůže aplikovat tato bezpečnostní opatření, musí přestat používat systém umělé inteligence, pokud vedení agentury neodůvodní, proč by takové opatření zvýšilo celková rizika pro bezpečnost nebo práva, nebo by vytvořilo nepřijatelnou překážku pro klíčové operace agentury,“ uvádí faktový list.
Pod novými pokyny by měly být veškeré modely, kód a data umělé inteligence ve vlastnictví vlády zveřejněny veřejnosti, pokud by jejich zveřejnění nepředstavovalo riziko pro vládní operace.
Spojené státy zatím nemají zákony regulující umělou inteligenci. Výkonný příkaz o umělé inteligenci poskytuje pokyny vládním agenturám výkonné moci, jak přistupovat k technologii. Ačkoliv bylo předloženo několik zákonů regulujících některé aspekty umělé inteligence, nebylo dosaženo významného pokroku v legislativě týkající se technologií AI.
Shrnutí:
- Každá federální agentura v USA je nyní povinna mít hlavního specialistu na umělou inteligenci pro dohled nad využíváním AI.
- Nové pokyny z Úřadu pro správu a rozpočet zahrnují roční inventarizaci systémů AI a zřízení správních rad pro AI.
- Cílem je zabezpečit zodpovědné využívání AI a transparentnost v jejím nasazování.
- Federální agentury musí ověřit, že nasazená AI splňuje bezpečnostní opatření proti diskriminaci a zajišťuje transparentnost veřejnosti.
- Existují také pokyny pro zveřejnění vládních AI modelů, kódů a dat, pokud neohrozí operace vlády.
- USA stále nemají specifické zákony regulující AI, ale výkonný příkaz poskytuje směrnice pro vládní agentury.
Zdroj:
- David, E. (2024, March 28). Every US federal agency must hire a chief ai officer. The Verge. https://www.theverge.com/2024/3/28/24114105/federal-agencies-ai-responsible-guidance-omb-caio?ref=futuretools.io
