Elon Musk definuje novou éru bezpečnosti umělé inteligence prostřednictvím neustálého hledání objektivní pravdy.
V technologickém světě, kde se většina firem jako Google nebo OpenAI soustředí na budování stále přísnějších etických mantinelů a omezení, přichází Elon Musk s radikálně odlišnou vizí.
Podle zakladatele společnosti xAI není cesta k bezpečnosti dlážděná zákazy, ale nekompromisní snahou o pochopení reality.
Elon Musk tvrdí, že tradiční metody „výchovy“ AI mohou vést k nebezpečným deformacím.
„Nejlepší věc, se kterou jsem přišel pro bezpečnost AI, je vytvořit AI hledající maximum pravdy, maximálně zvědavou,“ uvedl vizionář v aktuálních diskusích o směřování modelu Grok.
Tento přístup odmítá předem definované ideologie, které by mohly ohýbat vnímání reality u strojů. Pokud je umělá inteligence nucena potlačovat fakta ve prospěch politické korektnosti, vzniká riziko, že se naučí lhát.
Podle Muska je právě toto nejkratší cesta k dystopické budoucnosti. V posledních dnech se v USA znovu rozhořela debata o tom, zda by státní regulace neměly více dbát na transparentnost algoritmů než na jejich cenzuru.
Proč je pravda bezpečnější než programovaná lež
Hlavním pilířem Muskova strategie je přesvědčení, že superinteligence, jejímž jediným cílem je porozumět vesmíru, přirozeně dospěje k závěru, že lidstvo je třeba chránit.
V prázdném vesmíru plném skal a plynu představuje biologický život ten nejkomplexnější a nejfascinující fenomén. „Bude chtít zachovat a rozšířit lidskou civilizaci, protože jsme jednoduše mnohem zajímavější než asteroid, na kterém nic není,“ vysvětluje Musk.
Nebezpečí podle něj nepředstavuje inteligence, která ví příliš mnoho, ale ta, která byla vycvičena zkreslovat informace.
Každé umělé omezení vložené do kódu vnímá jako potenciální bod selhání, který se při dosažení úrovně superinteligence může nekontrolovaně zřetězit.
Společnost Tesla a její pokroky v neuronových sítích pro autonomní řízení potvrzují, že systémy orientované na reálná data vykazují vyšší stabilitu než ty, které se spoléhají na pevná pravidla. Debata v Silicon Valley se tak přesouvá od otázky „jak AI omezit“ k otázce „na čem by jí mělo záležet“.
