Pravidla pro AI by se již brzy měly objevit i v České republice

Školské odbory usilují o vytvoření pravidel pro používání umělé inteligence v českém školství. Jejich cílem je se zaměřit na možný dopad generativní umělé inteligence na školství. Podle odborářů by se AI měla vyvíjet s notnou dávkou opatrnosti s ohledem na etiku, důvěryhodnost a bezpečnost.

20. května se členové Českomoravského odborového svazu pracovníků školství na svém sjezdu v Praze shodli, že k AI by se mělo přistupovat obezřetně a její potenciál by neměl být podceňován. Umělá inteligence by mohla ohrozit práva duševního vlastnictví učitelů, akademických pracovníků a jiných výzkumníků. AI by tak mohla replikovat pedagogické materiály nebo učební metody.

„Ačkoli mohou být pro učitele technologie přínosné, přinášejí také řadu rizik a mohou narušit tradiční vzdělávací procesy.“

František Dobšík, pedagog, od roku 2003 předseda Českomoravského odborového svazu pracovníků školství

Mezi rizika spojená s používáním umělé inteligence patří zneužití dat o studentech, učitelích a výukových metodách. Odboráři také upozorňují na proměnlivou kvalitu online materiálů vytvářených těmito technologiemi a na algoritmy, které mohou automaticky činit rozhodnutí. 

„Rozhodnutí algoritmů by mohlo být v mnoha případech nespravedlivé vzhledem k žákům. A to obzvláště v případech, kdyby učitelé na základě výstupových dat vylučovali ze školy studenty, kteří by se mohli zdát jako „méně schopní“. Další obavou by mohlo být stigmatizování studentů podle jejich vzhledu, věku, doby absence nebo speciálních potřeb u žáků trpících dyslexií nebo dysgrafií,“ uvedli členové odborového svazu.

Umělá inteligence se nicméně nejeví v pouze negativním světle, podle odborářů může umělá inteligence přinést řadu pozitiv a benefitů. Její přínos by se zejména mohl uplatnit v plánování výuky či individuálnějšímu přístupu k jednotlivým žákům. AI by se dala využití i v případě analýzy školního prospěchu, pochopení látky a vhodnějšímu uzpůsobení osnovy výuky na základě zpětné vazby studentů. Díky tomu mají systémy AI potenciál identifikovat slabá místa studentů, na něž se poté pedagogové mohou zaměřit. 

Na sjezdu odborů ředitelka Evropského odborového výboru pro vzdělávání (ETUCE) Susan Flockenová zdůraznila, že roboti a modely umělá inteligence nemohou nahradit učitele. Podle ní jsou výuka a vzdělávání závislé na lidském kontaktu a emocích. Přestože Flockenová uznala, že zájem o učitelskou profesi v Evropě za poslední dobu klesá a vzdělávací systémy se potýkají s nedostatkem pedagogů, nahrazování učitelů roboty podle ní není vhodným řešením. 

Evropská Unie nedávno dala zelenou aktu o umělé inteligenci, v níž se zaměřují na její dopad na společnost. Součástí aktu je také zaměření se na důvěryhodnost a bezpečnost AI s cílem ochrany uživatelova soukromí. AI Akt těžce dopadne převážně na vývojáře umělé inteligence, které budou muset své modely podrobit důkladnějšímu testování a zajistit jejich důvěryhodnost a nezneužitelnost. Vývojáři také za své modely ponesou daleko větší zodpovědnost a uživatelé by měli mít právo kdykoli požádat o vymazání jejich dat z databáze společnosti. AI Akt bude muset být nicméně schválen celým Parlamentem EU, přičemž datum hlasování spadá na 12.-15. června.