Technologičtí lídři varují, že ai představuje pro lidstvo stejné riziko jako jaderná válka

Mezi těmi, kdo podpořili a podepsali krátké prohlášení, byli Sam Altman, generální ředitel společnosti OpenAI, která je tvůrcem ChatGPT, a také vedoucí pracovníci společnosti DeepMind, která se zabývá umělou inteligencí v Google nebo v Microsoftu.

Umělá inteligence může vést k vyhynutí člověka a snížení rizik spojených s touto technologií by mělo být globální prioritou, uvedli odborníci a technologičtí lídři ve zbrusu novém otevřeném dopise.

„Snížení rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou vedle dalších rizik celospolečenského rozsahu, jako jsou pandemie a jaderná válka.“ uvádí se v úterním prohlášení.

Sam Altman, generální ředitel společnosti OpenAI, která je tvůrcem ChatGPT, stejně jako vedoucí pracovníci společnosti Google. Google, DeepMind a Microsoft byli mezi těmi, kteří podpořili a podepsali krátké prohlášení Centra pro bezpečnost AI.

Tato technologie nabrala v posledních měsících na obrátkách poté, co byl chatbot ChatGPT v listopadu uvolněn k veřejnému používání a následně se stal virálním. Za pouhé dva měsíce od svého spuštění dosáhl 100 milionů uživatelů. ChatGPT ohromil výzkumníky i širokou veřejnost svou schopností generovat odpovědi podobné lidským pokynům uživatelů, což naznačuje, že by umělá inteligence mohla nahradit práci a napodobit člověka.

V úterním prohlášení se uvádí, že se stále častěji diskutuje o širokém spektru důležitých a naléhavých rizik plynoucích z rostoucího vlivu AI.

V dopise se nicméně také uvádí, že dnes ještě může být obtížné vyjádřit obavy ohledně některých nejzávažnějších rizik pokročilé AI – a tento dopis měl za cíl na tuto překážku především poukázat a otevřít diskusi.

ChatGPT pravděpodobně vyvolal mnohem větší povědomí o AI a její přijetí, protože velké firmy po celém světě se předhánějí ve vývoji konkurenčních produktů a schopností.

Altman už v březnu přiznal, že se raketového tempa vývoje AI tak trochu obává. . Před riziky, která AI představuje pro společnost, varovali i další technologičtí lídři, například Elon Musk ze společnosti Tesla nebo bývalý generální ředitel Googlu Eric Schmidt.

V březnu Musk, spoluzakladatel společnosti Apple Steve Wozniak a několik technologických lídrů v otevřeném dopise vyzvali laboratoře zabývající se umělou inteligencí, aby přestaly trénovat systémy, které jsou výkonnější než GPT-4 – což je nejnovější velký jazykový model OpenAI. Vyzvali také k šestiměsíční pauze v takto pokročilém vývoji.