Itálie zakázala ChatGPT – tamní úřady mají strach ze zneužití osobních údajů

My v redakci AIinstitutu ChatGPT doslova milujeme. Používáme jej každý den (bez přehánění) a jeho vynález do velké míry stál také za myšlenkou vytvořit tento portál. Je také docela pravděpodobné, že to byla právě tato technologie z dílny OpenAI, která vás přivedla na tento web. Ne všichni ale sdílejí naše nadšení – aktuálně třeba lidé z italského úřadu pro ochranu osobních údajů.

Asi se tady nemusíme rozepisovat o tom, že milujeme ChatGPT. A jsme si docela dobře jisti, že podobně na tom bude i nejeden z našich čtenářů. A pokud jde o ty z vás, kteří této revoluční technologii ještě nepropadli, bereme si tuto výzvu osobně – nezapomeňte odebírat magazín na našem nově vznikajícím portálu – garantujeme vám, že si umělou inteligenci a její možnosti zamilujete.

Něco podobného bychom rádi napsali i lidem z úřadu pro ochranu osobních údajů v Itálii. Takový dosah ale – zatím – nemáme. Navíc už celá situace zašla dost daleko – ano, čtete správně: V zemi ve tvaru dámské kozačky zakázali ChatGPT.

Nařízení je naštěstí jen dočasné

Italský úřad pro ochranu osobních údajů aktuálně zakázal ChatGPT poté, co jeho zástupci vyjádřili obavy ohledně nedávného narušení bezpečnosti, a právního základu pro používání osobních údajů k tréninku populárního chatbota.

Italský úřad pro ochranu osobních údajů tento krok označil za dočasné opatření, dokud ChatGPT nebude respektovat soukromí fyzických osob.

Společnost OpenAI v pátek uvedla, že službu ChatGPT v Itálii zakázala a že tak jednala v souladu s obecným nařízením EU o ochraně osobních údajů (GDPR).

„Jsme odhodláni chránit soukromí lidí a věříme, že dodržujeme GDPR a další zákony o ochraně osobních údajů,“ uvedl mluvčí společnosti OpenAI, jenž dodal, že společnost omezuje používání osobních údajů v systémech, jako je ChatGPT.

„Aktivně pracujeme na omezení osobních údajů při trénování našich systémů umělé inteligence, jako je ChatGPT, protože samozřejmě chceme, aby se naše umělá inteligence učila získávat nová data o světě kolem nás, nikoli o soukromých osobách.“

ChatGPT se od svého uvedení na trh v listopadu loňského roku stal senzací díky své schopnosti rychle generovat kvalitní odpovědi na otázky a také vytvářet reakce na výzvy uživatelů (prompty) – v tomto směru nástroj umí vygenerovat celou paletu obsahu včetně básní, akademických esejů a shrnutí dlouhých dokumentů.

Platforma je poháněna průkopnickým systémem umělé inteligence, který je doslova trénován na základě obrovského množství informací získaných z internetu.

Italský dozorčí orgán ve svém prohlášení uvedl obavy právě ohledně toho, jak chatbot zpracovává informace.

Itálie bere GDPR opravdu vážně, na pozoru je i Elon Musk

Poukázal na chybějící oznámení uživatelům a všem zúčastněným, jejichž údaje OpenAI shromažďuje, a uvedl, že zřejmě neexistuje žádný právní základ pro masivní shromažďování a zpracovávání osobních údajů za účelem takového trénování algoritmů, na nichž je platforma založena.

Zákaz přišel několik dní poté, co více než 1 000 odborníků na umělou inteligenci, výzkumných pracovníků a podporovatelů nových technologií – včetně generálního ředitele společnosti Tesla Elona Muska – vyzvalo k okamžitému pozastavení vytváření megalomanských nástrojů umělé inteligence na dobu nejméně šesti měsíců kvůli obavám, že společnosti jako OpenAI vytvářejí stále mocnější a mocnější digitální entity, kterým prakticky nikdo nedokáže plně porozumět, předvídat jejich chování nebo je spolehlivě ovládat.

Italský dozorčí orgán se rovněž odvolal na únik dat, který společnost OpenAI zaznamenala 20. března a který částečně odhalil konverzace a osobní údaje některých uživatelů včetně e-mailových adres a posledních čtyř číslic jejich kreditních karet.

Společnost se tehdy omluvila a uvedla, že bude usilovně pracovat na obnovení důvěry ze strany svých uživatelů.