OpenAI je obviněná z kolektivního sběru dat k tréninku GPT modelů – hrozí až 3 miliardová pokuta

Nejnovější případ, který byl podán federálním soudem na konci června v severním okrese Kalifornie, si klade za cíl prostudovat nové právní obvinění, podle něhož OpenAI porušilo práva milionů internetových uživatelů. Za předpokladu, že společnost bude uznána vinnou, bude muset zaplatit až 3 miliardy dolarů jako odškodnění všem uživatelům za využití jejich dat bez jejich veřejného souhlasu.

Významná právní firma sídlící v Kalifornii podala třídní žalobu proti společnosti OpenAI. Žaloba tvrdí, že OpenAI rozsáhle porušovala autorská práva a soukromí mnoha jednotlivců tím, že používala data, která získala prostřednictvím „internet scrapingu“ neboli kolektivnímu rychlému sbírání dat, k výcviku své technologie.

Již dříve čelila společnost mnoha nařčením a obviněním

Není to poprvé, co byla podána žaloba proti OpenAI. Anthony Trupia dříve uvedl, že společnost, která měla původně sloužit jako „ne zisková“ entita pro „prospěch celé lidskosti“, nyní významně manipuluje společností. Obvinil ji z toho, že vystavila „celou lidskost“ obrovským rizikům kvůli osobnímu prospěchu.

V listopadu předchozího roku se Microsoft, OpenAI a GitHub staly cílem třídní žaloby za použití licencovaného kódu při vytváření svého AI poháněného nástroje Copilot. Tento incident se pro ně stal stále se zvětšujícím problémem a nyní usilovně hledají způsob, jak se z něj vymanit, včetně položené žádosti soudu, aby odmítl na ně navrhovanou žalobu.

Sam Altman, prominentní člen OpenAI, potvrdil během slyšení u kongresu Spojených států, že proti společnosti bylo podáno více žalob. Na otázku senátora Lindseyho Grahama „Proč?“ odpověděl, že tyto žaloby byly ve většině případů bezdůvodné a jedná se o běžnou část cesty, která si každá větší společnost musí projít.

Podle federálního soudu Kalifornie OpenAI porušila práva miliónů uživatelů

Institut pro pokročilé studium umělé inteligence (AIM) dříve předpověděl další právní potíže pro OpenAI. Nejnovější žaloba, která byla podána federálním soudem v severním okrese Kalifornie, patří mezi ně. Je zaměřena na testování nové právní teorie, která tvrdí, že OpenAI porušila práva milionů internetových uživatelů tím, že použila jejich komentáře na sociálních médiích, blogové příspěvky, články na Wikipedii a dokonce rodinné recepty pro své účely. Právní firma Clarkson, která za žalobou stojí, je specializovaná na třídní žaloby pokrývající širokou škálu témat, včetně porušení ochrany dat a falešné reklamy. Jak jsme si na začátku uvedli, v případě, že by se společnost prokázala jako vinna, musela by zaplatit částku ve výši 3 miliard dolarů. Nebyly by to však jen peníze, které by společnost ztratila – v zásadě by hlavně utrpěla reputace, kvůli níž by mnoho uživatelů zřejmě přešlo ke konkurenčním platformám, jako je Google Bard nebo Antrophic Claude.

Měli by mít uživatelé práva na „všechny“ jimi vyprodukovaná data?

Ryan Clarkson, vedoucí partner této právní firmy, uvedl, že jejich záměrem je zastupovat „skutečné lidi, jejichž informace byly nezákonně získány a zneužity pro vývoj této silné technologie“. OpenAI dosud nevyjádřila svůj postoj k této žalobě. Není však zcela jednoduché specifikovat zdali data, která jsou na internetu, mohou či nemohou být využita pro trénování modelů. Zatímco v Evropě se zavedl zákon, který pomáhá v rozlišování mezi veřejnými doménami a daty zdarma k použití, v USA je tato tématika stále předmětem debaty. Někteří experti se domnívají, že uživatelé by měli mít právo vědět a souhlasit s tím, jak jsou jejich data (příspěvky, komentáře, odpovědi) zpracovávána, otázka ale zní: mělo by tomu tak být za každé situace?

Tato právní kauza se zabývá významnou nevyřešenou otázkou ohledně rozšíření „generativních“ nástrojů umělé inteligence, jako jsou chatboti a generátory obrázků, které se učí vytvářet spojení mezi velkým množstvím textových dat z internetu. Po masivním sběru dat získávají tyto „velké jazykové modely“ schopnost předpovídat odpovědi na otázky, což jim umožňuje vést komplexní konverzace, psát poezii a dokonce skládat odborné zkoušky. Nicméně, jednotlivci, kteří původně vytvořili tyto miliardy slov, nikdy nedali souhlas k využití svých dat pro ziskové účely společnostmi jako OpenAI.

Clarkson argumentuje, že „všechny tyto informace jsou sbírány ve velkém měřítku, aniž by bylo považováno za nutné, že budou použity velkým jazykovým modelem.“ Vyjádřil naději, že žaloba povede k vytvoření směrnic pro trénování algoritmů umělé inteligence a k spravedlivému odškodnění jednotlivců, jejichž data jsou využívána.

Právní firma již sestavila skupinu žalobců a aktivně hledá další účastníky pro žalobu. Nejistota ohledně legality použití dat získaných z veřejně dostupného internetu k trénování komerčních nástrojů umělé inteligence stále přetrvává. Někteří vývojáři AI tvrdí, že použití internetových dat spadá do kategorie „fair use“ v autorském právu, která umožňuje výjimky, pokud je materiál podstatně transformován anebo alespoň ozdrojován.

Ne všichni by byli odškodnění

Katherine Gardner, právnička specializující se na duševní vlastnictví z firmy Gunderson Dettmer, která především zastupuje technologické startupy, naznačila, že umělci a další tvůrci, kteří dokážou prokázat, že jejich chráněné dílo bylo použito při trénování modelů AI, by mohli mít důkazi proti společnostem. Naopak jednotlivci, kteří pouze přispívali nebo komentovali na webových stránkách, mají menší šanci na úspěch při žádosti o náhradu škody.

Nová třídní žaloba proti OpenAI rozšiřuje právní debatu o využití dat na internetu, zda jsou považována za veřejně dostupná nebo zda vyžadují konkrétní souhlas od jejich původních autorů. Je také důležitá pro to, jak bude umělá inteligence a podobné technologie regulovány v budoucnosti.

Zatímco někteří právní experti argumentují, že případy jako tento by mohly vést k zákonným omezením na používání dat získaných z internetu, jiní se obávají, že taková omezení by mohla potlačit inovace v oblasti AI. Všeobecně vzato, debata mezi ochranou soukromí a svobodným přístupem k informacím je stále živá a důležitá.

Černý scénář pro ChatGPT

Pokud by byla tato žaloba úspěšná, mohla by to mít zásadní dopad na celý průmysl umělé inteligence, zejména pokud jde o nástroje, které se učí na základě dat získaných z internetu. Mohlo by to také vést k většímu důrazu na ochranu dat a soukromí uživatelů v oblasti AI. Bohužel zde také existuje i velké riziko, že by prokázání viny mohlo vést k zavření nebo alespoň velkému omezení služby ChatGPT, což by ovlivnilo velké množství uživatelů a firem, které generativní AI začaly implementovat do svých pracovních výborů. Na druhou stranu by mohli vzniknout nové regulace, které by lépe chránily práva uživatelů. Otázka pak zní, obětujete generativní AI, která Vám pomáhá s nesčetným množstvím situací ve Vašem životě, kvůli možnosti mít větší práva na komentář či příspěvek, který na sociálních sítích zveřejníte? Odpověď je čistě na Vás. A nejspíš i podle množství těchto odpovědí bude určen výsledek následujícího soudu.

Závěr

Bude tedy zajímavé sledovat, jak se tento případ bude vyvíjet, jaké právní argumenty budou předloženy a jakým způsobem soud rozhodne. Každé rozhodnutí v tomto případě může mít významný dopad na budoucí regulace pro vývoj a využití umělé inteligence. Bez ohledu na konečný výsledek bude tento případ důležitým krokem v právním vývoji v oblasti umělé inteligence a soukromí dat.