CEO společnosti OpenAI má pocit, že výzva k pozastavení vývoje AI není optimálním řešením

Generální ředitel OpenAI Sam Altman se domnívá, že otevřený dopis stovek akademiků, byznysmenů a výzkumných pracovníků, mezi nimiž byli i generální ředitel společnosti Tesla Elon Musk a spoluzakladatel společnosti Apple Steve Wozniak, postrádá „technické aspekty věci“ celého tématu.

O tom, že 1 800 odborníků, akademiků a podnikatelů minulý měsíc podepsalo veřejnou výzvu požadující pozastavení vývoje umělé inteligence minimálně na příštích 6 měsíců, jste už určitě četli.

Otevřený dopis sice nebyl namířen konkrétně na společnost OpenAI, vzhledem k tomu, že právě ona je díky svému nástroji ChatGPT v samotném centru dění celého odvětví, bylo jasné, že její vedení bude na výzvu dříve či později reagovat. Paradoxní je, že sám Musk stál při založení laboratoře OpenAI v roce 2015 – o 3 roky později ze společnosti ale odešel; jedním z důvodů tehdy měly být právě jeho narůstající obavy z nekontrolovaného vývoje nástrojů umělé inteligence.

K otevřenému dopisu se nyní oficiálně vyjádřil sám spoluzakladatel společnosti – a její současný generální ředitel – Sam Altman.

Hned na úvod prohlásil, že souhlasí s hlavní myšlenkou otevřeného dopisu iniciovaném americkým institutem Future of Life. Zároveň ale dodává, že v dopise chybí většina technických detailů a „nuancí ohledně toho, kde přesně by si měli vývojáři AI dát pauzu.“

Altman tyto komentáře pronesl během čtvrtečního video vystoupení na akci MIT, která se zabývala otázkami ohledně spojení podnikání a AI.

„Myslím, že postupovat opatrně a se zvýšenými nároky v otázkách bezpečnosti je opravdu důležité. Nejsem ale toho názoru, že tento dopis představoval optimální způsob, jak to řešit. Souhlasím také s tím, že jak se schopnosti AI stále zlepšují, musí se zároveň zvýšit bezpečnostní laťka.“

Sam Altman

Byl to ostatně sám CEO OpenAI, kdo začátkem tohoto roku přiznal, že technologie umělé inteligence v něm vyvolávají také určité obavy. Otázky týkající se bezpečného a etického používání AI se v posledních měsících objevily také v Bílém domě, na Kapitolu a v zasedacích místnostech po celé Americe. Psali jsme o tom například v tomto článku.

Altman hovořil celkově o filozofii OpenAI a zmínil, že umělá inteligence ovlivní všechny, a proto je rovněž důležité zapojit všechny. Dodal, že cílem OpenAI je přimět svět, aby se tímto tématem aktivně zabýval, přemýšlel o něm a postupně aktualizoval a budoval nové instituce nebo přizpůsoboval ty stávající tak, aby všichni lidé byli schopni přijít na to, jakou budoucnost vlastně chceme budovat.

Na závěr prezentace Altman dodal, že jeho společnost aktuálně vytváří další projekty nad rámec GPT-4, které samotné podle jeho názoru vyžadují zaujetí konkrétního postoje k nejrůznějším bezpečnostním otázkám – jež je důležité řešit, které ale byly podle jeho mínění v otevřeném dopise zcela vynechány.

Celé téma je poměrně ožehavé. Aby toho nebylo málo, výše zmíněný Elon Musk má aktuálně dávat dohromady tým pro vlastní laboratoř na vývoj nástrojů umělé inteligence. Psali jsme o tom dnes zde.