OpenAI nepracuje na vývoji ChatGPT-5. Proč?

Pokud jste si mysleli, že v laboratořích OpenAI se v těchto dnech usilovně pracuje na vývoje nové verze revolučního chatbota ChatGPT, jste na omylu. Generální ředitel společnosti Sam Altman aktuálně vyvrátil veškeré zprávy o tom, že OpenAI již vyvíjí GPT-5. Tak jako tak – jeho komentáře pravděpodobně nepotěší ty, kteří se obávají o bezpečnost budoucího vývoje umělé inteligence.

O akci zaměřené na téma synergie umělé inteligence a byznysu, která během minulého týdne proběhla na světoznámé americké univerzitě MIT, jsme se již zmínili – konkrétně v článku o reakci šéfa OpenAI na výzvu k pozastavení vývoje AI. V rámci diskuse na této akci Sam Altman, CEO OpenAI, rovněž potvrdil, že jeho společnost v současné době netrénuje chatbota GPT-5, předpokládaného nástupce svého jazykového modelu umělé inteligence GPT-4, který byl vydán letos v březnu.

Jak už jsme zmínili – při projevu na akci MIT byl Altman dotázán na nedávný otevřený dopis, který koloval v rámci technologické komunity a jenž požadoval, aby laboratoře jako OpenAI pozastavily vývoj systémů AI výkonnějších než GPT-4. Dopis zdůrazňoval obavy o bezpečné využívání těchto budoucích systémů – podepsalo jej na 1 800 akademiků, vědců a podnikatelů. Na druhé straně byl ale také kritizován mnoha pracovníky v oboru. Odborníci se dnes totiž jednohlasně neshodnou ani na samotné povaze hrozby, kterou má AI potenciálně představovat (je oprávněná, existenční, nebo spíše malicherná – ve smyslu strachu z něčeho nového?), ani na tom, jak by průmysl mohl takové navrhované pozastavení vývoje vůbec provést v praxi.

Otevřený dopis žádající pozastavení vývoje AI naráží na něco, co se ještě ani neděje

Na MIT Altman uvedl, že v tomto dopise chybí většina technických detailů ohledně toho, v jaké oblasti potřebuje sektor vlastně pauzu. A jedním dechem poznamenal, že první verze výzvy dokonce tvrdila, že OpenAI v současné době již vyvíjí a trénuje nástroj GPT-5.

„V současnosti ChatGPT-5 nevyvíjíme – a ještě nějakou dobu ani nebudeme, Takže v tomto ohledu byla otevřená výzva tak trochu mimo.“

Sam Altman, spoluzakladatel a CEO společnosti OpenAI

Nicméně to, že OpenAI v současnosti nepracuje na GPT-5, neznamená, že nerozšiřuje možnosti GPT-4; nebo, jak Altman ostatně sám zdůraznil, nezvažuje bezpečnostní důsledky dalšího vývoje. CEO společnosti OpenAI dodává, že v současnosti se jeho laboratoře věnují vylepšování věcí kolem GPT-4 – „A taky děláme další věci, které podle mého názoru zahrnují nejrůznější bezpečnostní otázky, jež je důležité řešit a které byly v dopise zcela vynechány,“ dodal ještě Altman.

Na videu níže můžete sledovat záznam z této panelové diskuse:

Jaký je skutečný postoj OpenAI k bezpečnosti vývoje AI? Přinejmenším diskutabilní

Altmanovy komentáře jsou zajímavé – i když ne nutně kvůli tomu, co prozrazují o budoucích plánech OpenAI. Spíše upozorňují na významný problém v debatě o bezpečnosti AI: obtížnost samotného měření a sledování pokroku. Altman sice říká, že OpenAI v současné době netrénuje GPT-5, ale to není nijak zvlášť vypovídající tvrzení.

Část těchto nejasností lze přičíst tomu, čemu jeden americký redaktor říká s trochou nadsázky klam číslování verzí: tento jev má poukazovat na obecně přijímanou představu, že očíslované aktualizace digitálních nástrojů odrážejí nějaké jasně vyhraněné zlepšení jejich schopností a nedostatků. Je to mylná představa, která se ve světě technologií pěstuje už léta. Čísla přidělená novým telefonům nebo operačním systémům mají poukazovat na zvýšenou kontrolu funkčnosti, ale ve skutečnosti jsou to spíše jen marketingové nástroje. Samozřejmě, že iPhone 35 je lepší než iPhone 34 – tak zní logika tohoto systému. Je to ale skutečně jisté? A měřitelné?

Vzhledem ke značnému překrytí oblastí moderních technologií a umělé inteligence se stejná logika nyní možná také uplatňuje u systémů, jako jsou jazykové modely OpenAI. Musíme si uvědomit, že tato sféra vývoje je natolik nová a dynamická, že pokrok dost možná nemůžeme ani měřit v lineárních hodnotách. Umělá inteligence dneška je nepochybně pokročilejší než ta z minulého týdne – nemáme ale příliš mnoho jasně definovaných metrik, které by nám to umožnily prokázat nade vší pochybnost. Ano, ChatGPT-4 má mnohem větší možnosti než předchozí verze – pokud jde ale o filozofické otázky typu potenciál. a bezpečnost, tady je to rázem už složitější.

To neznamená, že bychom odmítali obavy z bezpečnosti umělé inteligence nebo ignorovali skutečnost, že se tyto systémy rychle zdokonalují a nejsou plně pod naší kontrolou. Jde však o to říci, že existují dobré a špatné argumenty, a to, že jsme něčemu – ať už novému telefonu, nebo konceptu inteligence – přiřadili číslo, ještě neznamená, že to máme plně pod kontrolou.

Záleží vlastně na tom, zda se ChatGPT-5 už vyvíjí anebo ne?

Proto Altmanovo potvrzení, že OpenAI v současné době nevyvíjí GPT-5, nebude pro ty, kteří se obávají o bezpečnost AI, žádnou útěchou. Společnost stále rozšiřuje potenciál GPT-4 (například jeho připojením k internetu a přístupu k aktuálním informacím). A aby toho nebylo málo – ostatní v oboru samozřejmě na nic nečekají – a vytvářejí podobně ambiciózní nástroje, třeba takové, které umožňují systémům AI jednat jménem uživatelů. Na optimalizaci GPT-4 se také nepochybně pracuje a OpenAI možná nejprve vydá GPT-4.5 (stejně jako GPT-3.5) –a tady máme ukázku dalšího způsobu, jak mohou být čísla verzí zavádějící.