Elon Muskův startup xAI spouští revoluční AI model s názvem Grok

V poslední době se objevují zprávy o novém projektu AI startupu Elona Muska, xAI, který se zaměřuje na vývoj pokročilého konverzačního AI systému. Tento projekt, nazvaný Grok, byl veřejnosti představen prostřednictvím série tweetů Elona Muska na platformě X. Grok, což je název nedávno registrovaný xAI jako ochrannou známku, představuje nejnovější přírůstek do rostoucího pole konverzačních AI technologií.

Grok je navržen tak, aby uživatelům poskytoval odpovědi v přirozeném dialogu, což naznačuje, že by mohl využívat podobnou znalostní základnu, jaká byla aplikována při tréninku ChatGPT a dalších textově generujících systémů, jako je například Meta’s Llama 2. Tato informace může vyvolat otázky o tom, jakým způsobem se Grok liší od svých předchůdců a jaké nové možnosti může přinést v oblasti umělé inteligence.

Přístup k datům v reálném čase

Grok využívá „přístup v reálném čase“ k informacím o X, řekl Musk. A podobně jako ChatGPT má systém schopnost procházet internet, což mu umožňuje hledat na webu aktuální informace o konkrétních tématech. Upřímně tak doufám, že toto vyhledávání bude oproti jiným AI modelům jako Bing (Microsoft) nebo Leo (Brave) více “časově akurátnější”. Jinými slovy, že na dotaz o vyhledání aktuálních novinek se mi půl rok starých článků.

Musk dále naznačil, že Grok bude odmítat odpovídat na určité příkazy “citlivější povahy”, jako je výroba zbraní, drog, poskytování manipulativního a škodlivého obsahu apod. Podle snímku obrazovky systém odpovídá na tuto konkrétní otázku trochu víc vtipně než ChatGPT; není jasné, zda jde o předem připravenou odpověď, nebo je systém skutečně – jak Musk tvrdí v tweetu – „navržen tak, aby měl ve svých odpovědích více humoru.“ 

Grok has real-time access to info via the 𝕏 platform, which is a massive advantage over other models.

It’s also based & loves sarcasm. I have no idea who could have guided it this way 🤷‍♂️ 🤣 pic.twitter.com/e5OwuGvZ3Z

— Elon Musk (@elonmusk) November 4, 2023

3. listopadu brzy ráno Musk sdělil, že xAI vydá svůj první AI systém – pravděpodobně Grok – pro „vybranou skupinu“ v sobotu 4. listopadu. Nicméně v následném tweetu večer ještě téhož dne Musk řekl, že všichni předplatitelé nedávno spuštěného plánu Premium Plus X, který stojí 16 dolarů měsíčně za přístup bez reklam k X, získají přístup ke Groku „jakmile skončí raná beta verze.“

As soon as it’s out of early beta, xAI’s Grok system will be available to all X Premium+ subscribers

— Elon Musk (@elonmusk) November 4, 2023

Raná beta verze Groku je prozatím přístupná jen vybrané hrstce uživatelů z USA. Tento seznam by se měl nicméně podstatně rozšířit, jakmile se model z beta verze dostane. Přístupnost by se tak měla začít šířit mezi verifikované předplatitele platformy X.

Spolupráce s Oracle

V září tohoto roku oznámil spoluzakladatel technologického gigantu Oracle, Larry Ellison, úzké partnerství s firmou xAI. Ellison, který zastává pozici nejenom jako průkopník v IT průmyslu, ale i jako osobní přítel Elona Muska, odhalil, že xAI bude využívat cloudové služby Oracle pro náročný proces tréninku svých AI modelů, včetně Groka. Podrobnosti o mechanismech a schopnostech těchto AI modelů zůstávaly ale nejasné.

Avšak to se rychle změnilo, když bylo nedlouho po Ellinsonově vyjádření informační vakuum proraženo. Konkrétně se jednalo o brzké nedělního ráno 5. listopadu, kdy xAI rozhodla odtajnit některé klíčové aspekty své práce. Ve svém blogu představila Grok – svůj vlajkový jazykový model. Příspěvek nejenže osvětlil použité metody a infrastrukturu nezbytnou pro vývoj Groku, ale také detailně popsal náročný proces vývoje a tréninku, který se odehrával na impozantním klastru složeném z desítek tisíc GPU, jež pravděpodobně poskytla společnost Oracle.

Groooook https://t.co/kuJE4XhJdq

— Elon Musk (@elonmusk) November 5, 2023

Co se týče sestavování tréninkových dat, xAI využilo jak obsah z celosvětového webu (sběr dat byl ukončen v 3. čtvrtletí roku 2023), tak i hodnotnou zpětnou vazbu od “lidských asistentů”, které firma nazývá „AI tutory“. Zmínění tutoři zastávají pozici poskytování relevantních informací pro AI, včetně kontextových poznámek. 

Grok překonává model od mety, Llama-2-70B jen s polovinou použitých parametrů

Grok-1 byl vykreslen firmou xAI jako AI průkopník, jenž v testech běžných benchmarků pro jazykové modely (LLM) dosahuje „velmi dobrých výsledků“, přičemž údajně „překonává všechny ostatní modely ve své výpočetní třídě“. Tato tvrzení podporují pozoruhodné schopnosti modelu, který se nevyhýbá ani zvláště náročným či neobvyklým dotazům, čímž odráží Muskovo naznačení o Grokově „troše ducha“ a „rebelantském pruhu“. Musk tím zřejmě myslí, že AI není omezená pouze na konvenční odpovědi, ale je schopná se pohybovat i v kontroverzních či provokativních vodách.

„Po oznámení technologie xAI jsme se pustili do trénování našeho průkopnického modelu LLM, Grok-0, který disponuje 33 miliardami parametrů. Přes svou menší velikost se tento počáteční model vyrovnal schopnostem pokročilejšího modelu LLaMA 2 s dvojnásobkem parametrů, tedy se 70 miliardami. V uplynulých dvou měsících jsme dosáhli značného pokroku v oblastech logického uvažování a programování, což nám umožnilo vyvinout Grok-1. Tento špičkový jazykový model předčí své předchůdce výkonem a dosahuje úspěšnosti 63,2 % na HumanEval kódovacích úlohách a 73 % na Multimodal Machine Learning Understanding (MMLU) testech.“, píše xAI na svém blogu.

Své tvrzení uvádí xAI i v tabulce benchmarků: 

„V některých důležitých ohledech je Grok to nejlepší, co v současnosti existuje,“ byl Musk citován v tweetu v pátečním odpoledni.

Muskova ambiciozní vize do budoucna

Společnost xAI, založená v červenci, je projevem Muskovy dlouhodobé ambice zformovat umělou inteligenci, která by nabízela přesnější pochopení „pravé podstaty vesmíru“. Vedle Muskovy osobnosti se v xAI angažují i vědecké kapacity z renomovaných institucí a firem, mezi něž patří DeepMind, OpenAI, Google Research, Microsoft Research a University of Toronto. Projekt podporuje také Dan Hendrycks z Centra pro bezpečnost AI, který funguje jako poradní orgán a posiluje tak multidisciplinární aspekty výzkumu a vývoje v rámci společnosti. Tým xAI dále prohlubuje své působení v komerčním sektoru prostřednictvím kooperace na různých projektech v rámci Muskova portfolia, včetně společnosti Tesla nebo SpaceX.

Během dubnového rozhovoru s Tuckerem Carlsonem Musk vyjádřil záměr vytvořit AI, která by byla orientována na „maximální hledání pravdy“ – což nastoluje otázku, zda může být model Grok-1 ztělesněním vize nebo jen předzvěstí ještě něčeho většího.

Podle nedávného blogového příspěvku xAI společnost nastiňuje evoluční trajektorii Groku-1, který se momentálně specializuje na lingvistické funkce, ale v blízké budoucnosti by mohl být rozšířen o další smyslové modality podobně jako GPT. Tento přístup předpokládá integraci vizuálních a akustických senzorů tak, aby byl Grok schopen poskytovat interaktivní vizuální i akustickou asistenci a využívat bohatší spektrum aplikací.

Muskův vztah s OpenAI, kde působil jako spoluzakladatel a člen správní rady, prošel evolucí. Po nástupu firmy ke komerčním aktivitám a její odchylce od původních otevřených výzkumných záměrů vyvolal Muskův nesouhlas a vedl k jeho rezignaci v roce 2018. Tento krok následovala Muskova rozhodnutí omezení sdílení dat s OpenAI.

Shrnutí

• Elon Muskův AI startup xAI představuje Grok, nový konverzační AI systém s přirozeným dialogem a aktualizovanou znalostní základnou, zaměřený na lepší přesnost a přístupnost aktuálních informací v reálném čase.
• Grok je trénován na obrovských datech z internetu a používá technologie strojového učení, aby vytvářel odpovědi nerozeznatelné od lidí, s vlastností procházení internetu pro aktuální data a přidáním humoru do konverzací.
• xAI vydá Grok pro uživatele s plánem Premium Plus X a omezeným počtem uživatelů v USA, s důrazem na bezpečnost a odmítání odpovědí na citlivé dotazy, jako je výroba zbraní nebo drog.
• Grok je výsledkem partnerství s Oracle pro cloudové služby, využívá AI tutory pro výuku a nabízí nadprůměrné výkony v jazykových modelech s potenciálem pro kontroverzní otázky, odražující Muskovu vizi „maximálního hledání pravdy“.