Umělá inteligence (AI) se rychle stává klíčovou technologií v armádních operacích po celém světě. Integrace AI do vojenských systémů přináší nové schopnosti, jako je automatizace zbraňových systémů, pokročilá analýza dat pro strategické rozhodování a masivní sledovací operace. Tato technologie však vyvolává závažné etické otázky, zejména pokud jde o její využití v konfliktech, kde by mohla vést k nehumánním rozhodnutím a zvýšenému riziku civilních obětí.
Zaměstnanci firem jako Google DeepMind začínají veřejně zpochybňovat, zda by jejich práce měla být použita pro válečné účely. Koneckonců, kdo by se chtěl stát druhým Oppenheimerem? Člověkem, který svým projektem na vytvoření nukleární zbraně odsoudil Hirošimu a Nagasaki ke zpustošení.
Otevřený dopis podpořilo téměř 200 zaměstnanců
V květnu 2024 podepsalo přibližně 200 zaměstnanců Google DeepMind (což představuje přibližně 5 % této divize) dopis, ve kterém vyzývají společnost k ukončení kontraktů s vojenskými organizacemi, a vyjádřili obavy, že technologie umělé inteligence (AI) je využívána pro válečné účely.
V dopise se uvádí, že obavy zaměstnanců nesouvisí s geopolitickým kontextem žádného konkrétního konfliktu, nicméně dopis odkazuje na zprávu magazínu Time o obraném kontraktu Google s izraelskou armádou známém jako Project Nimbus. Dále dopis upozorňuje na zprávy, že izraelská armáda využívá AI k masovému sledování a výběru cílů v rámci bombardovací kampaně v Gaze, přičemž izraelské zbrojní firmy jsou vládou zavázány nakupovat cloudové služby od společností Google a Amazon.
Obrázek 1 – DALL-E 3: Armádní vozidlo typu země vzduch v Tibetském pohoří
Eskalující napětí
Dopis zdůrazňuje napětí uvnitř Google, kde se střetává AI divize s cloudovým byznysem, který prodává AI služby armádám. Na hlavní konferenci Google I/O, která proběhla začátkem tohoto roku, se u vchodu pro účastníky připoutali k sobě propalestinští demonstranti a protestovali proti projektům Lavender, „Where’s Daddy?“, softwaru „Gospel“ a Project Nimbus.
Rychlé rozšíření využívání AI ve vojenství vede některé techniky, kteří tyto systémy vyvíjejí, k tomu, aby se vyjádřili. Google však učinil jasný závazek: když v roce 2014 společnost koupila DeepMind, lídři laboratoře požadovali, aby jejich technologie AI nebyla nikdy použita pro vojenské nebo sledovací účely.
„Jakákoliv účast na vojenské výrobě a výrobě zbraní ovlivňuje naši pozici jako lídrů v oblasti etické a zodpovědné AI a jde proti našemu poslání a prohlášeným zásadám AI,“ stojí v dopise, který koloval uvnitř Google DeepMind.
Podle magazínu Time dopis od zaměstnanců DeepMind vyzývá vedení k prošetření tvrzení, že cloudové služby Google jsou využívány armádami a výrobci zbraní, aby zabránilo vojenskému přístupu k technologiím DeepMind a založilo nové řídící orgány, které by zabránily budoucímu využívání AI vojenskými klienty. Magazín Time rovněž uvedl, že navzdory obavám zaměstnanců a jejich výzvám k akci se Google zatím zcela jasně nevyjádřil.
Shrnutí
- Asi 200 zaměstnanců Google DeepMind vyzvalo k ukončení vojenských kontraktů kvůli obavám z použití AI ve válce.
- Dopis upozorňuje na napětí mezi AI divizí a cloudovým byznysem Google.
- Zmiňuje se i o Project Nimbus, kontraktu s izraelskou armádou, a jeho etických důsledcích.
- Google zatím významně nereagoval na obavy zaměstnanců.
Zdroj:
- Robison, K. (2024, August 22). Google Deepmind staff call for end to military contracts. The Verge. https://www.theverge.com/2024/8/22/24226161/google-deepmind-staff-call-for-end-to-military-contracts?ref=futuretools.io
