Nezávislé hodnocení označilo umělou inteligenci od Googlu za rizikovou pro děti, zatímco politici zpřísňují dohled nad OpenAI, která stojí za ChatGPT.
Gemini od Googlu propadl v bezpečnostním testu
Nezisková organizace Common Sense Media, zaměřená na bezpečnost dětí v digitálním prostředí, označila produkty umělé inteligence Gemini od společnosti Google za „vysoce rizikové“ pro děti a dospívající.
Podle hodnocení jsou verze určené pro děti mladší 13 let a pro teenagery ve skutečnosti jen upravené verze produktů pro dospělé s několika přidanými bezpečnostními filtry. Organizace tvrdí, že aby byly AI produkty skutečně bezpečné pro děti, musí být navrženy s ohledem na jejich potřeby už od samého začátku.
Analýza zjistila, že Gemini může dětem poskytovat „nevhodný a nebezpečný“ obsah, na který nejsou připraveny – včetně informací o sexu, drogách, alkoholu nebo nebezpečných rad souvisejících s duševním zdravím.
„Platforma umělé inteligence pro děti by se měla přizpůsobit jim, a ne používat univerzální přístup pro děti v různých vývojových fázích. Aby byla AI pro děti bezpečná a efektivní, musí být navržena s ohledem na jejich potřeby a vývoj, ne jen jako upravená verze produktu vytvořeného pro dospělé,“ uvedl Robbie Torney, ředitel AI programů v Common Sense Media.
Situaci dále komplikuje zpráva, že společnost Apple zvažuje integraci Gemini do své hlasové asistentky Siri, což by mohlo vystavit riziku ještě větší počet mladých lidí.
Google se proti hodnocení ohradil s tím, že má zavedené specifické ochranné mechanismy a neustále je vylepšuje, zároveň ale připustil, že některé odpovědi nefungovaly podle očekávání.
Regulátoři a prokurátoři zvyšují tlak
Rostoucí obavy o bezpečnost dětí při interakci s AI vedou k zesílenému tlaku úřadů, zejména na společnost OpenAI.
Generální prokurátor Kalifornie Rob Bonta a generální prokurátorka státu Delaware Kathy Jennings zaslali společnosti otevřený dopis, v němž vyjádřili vážné znepokojení nad bezpečností chatbota ChatGPT.
Jejich varování přišlo po zprávách o sebevraždě mladého Kaliforňana, který dlouhodobě komunikoval s chatbotem od OpenAI. „Ať už byla zavedena jakákoli bezpečnostní opatření, nefungovala,“ uvedli prokurátoři v dopise.
Oba státní zástupci zároveň vyšetřují navrhovanou restrukturalizaci OpenAI na ziskovou společnost, aby se ujistili, že původní neziskové poslání zaměřené na bezpečné nasazení AI zůstane zachováno.
Bret Taylor, předseda představenstva OpenAI, na kritiku reagoval prohlášením: „Bezpečnost je naší nejvyšší prioritou a úzce spolupracujeme s tvůrci politik po celém světě.“ Společnost údajně pracuje na zavedení rodičovské kontroly a dalších ochranných prvků pro teenagery.
