Stovky významných osobností ze světa technologií, vědy a politiky žádají zákaz vývoje umělé superinteligence.
Více než 850 osobností, včetně spoluzakladatele společnosti Apple Steva Wozniaka a zakladatele Virgin Group Richarda Bransona, podepsalo otevřenou výzvu k zastavení vývoje takzvané superinteligence.
Jde o hypotetickou formu umělé inteligence, která by překonala lidské schopnosti ve všech kognitivních úlohách. Mezi signatáři jsou i průkopníci a „kmotři“ moderní AI – počítačoví vědci Yoshua Bengio a Geoff Hinton, stejně jako přední výzkumník Stuart Russell z Kalifornské univerzity v Berkeley.
Prohlášení varuje, že nekontrolovaný vývoj superinteligence přináší vážná rizika – „od ekonomické zastaralosti a bezmocnosti lidí, ztráty svobody, občanských práv, důstojnosti a kontroly, až po rizika pro národní bezpečnost a dokonce potenciální vyhynutí lidstva.“
Signatáři požadují, aby byl vývoj superinteligence zakázán, dokud nebude existovat silná veřejná podpora pro tuto technologii a vědecký konsenzus, že ji lze vyvíjet a kontrolovat bezpečně.
Nečekaná spojenectví a rozdělená společnost
Výzvu podpořila překvapivě široká koalice osobností. Kromě technologických expertů se přidali i bývalí vysocí představitelé USA, například bývalý předseda Sboru náčelníků štábů Mike Mullen a bývalá poradkyně pro národní bezpečnost Susan Rice.
Seznam doplňují i mediálně vlivné osobnosti jako Steve Bannon a Glenn Beck, ale také britský princ Harry s manželkou Meghan či bývalá irská prezidentka Mary Robinson.
Tato iniciativa přichází v době, kdy technologičtí giganti jako Meta otevřeně pojmenovávají své výzkumné divize „Meta Superintelligence Labs“ a soupeří s firmami jako OpenAI či xAI Elona Muska o nejpokročilejší model.
Podle nedávného průzkumu Institutu pro budoucnost života (Future of Life Institute) podporuje rychlý a neregulovaný vývoj superinteligence pouze 5 % dospělých v USA.
Yoshua Bengio ve svém stanovisku uvedl:
„Musíme vědecky určit, jak navrhnout systémy AI, které jsou fundamentálně neschopné ublížit lidem – ať už v důsledku špatného nastavení nebo zlomyseľného použití. Veřejnost musí mít také mnohem silnější slovo v rozhodnutích, která budou formovat naši společnou budoucnost.“
Paradoxem zůstává, že před riziky v minulosti varovali i lídři jako Sam Altman z OpenAI či Elon Musk, kteří dnes stojí v čele tohoto technologického pokroku.
