Podporovaná společností Qualcomm, společnost Kneron, představila svůj nejnovější neuronový procesorový (NPU) čip, který slibuje radikální změnu v oblasti provozování špičkových modelů umělé inteligence.
KL730, automatický NPU čip, obsahuje integrovaný Image Signal Processor (ISP) a údajně má přinést možnosti bezpečného a energeticky efektivního provozu modelů AI pro širokou škálu aplikací, od podnikových vysoce výkonných serverů po chytré domácí spotřebiče až po pokročilé asistenční systémy pro řízení dopravních prostředků. Jak je vidět, čipy by měly mít všestranné využití, díky čemuž se stanou dostupným zbožím i pro globální veřejnost.
KL730: Čip budoucnosti?
Nový čip KL730 je designován speciálně s ohledem na nároky umělé inteligence.
Jeho význam spočívá v kombinaci energetické účinnosti a bezpečnosti, což jsou klíčové atributy pro současnou éru technologických zařízení. Co je ale na KL730 zvláště pozoruhodné, je jeho schopnost zpracovávat různé digitální signály, jako jsou obrazy, videa a zvuky, díky svému modernímu perifernímu rozhraní.
Pro ty, kteří nejsou seznámeni s technickými detaily: si lze čip představit jako multifunkční zařízení, které je schopné „interpretovat“ různé „jazyky“ digitálních signálů, což může rozšířit možnosti jeho využití v umělé inteligenci.
Obrázek 1 – Midjourney: Cybervoid
Představení společnosti Kneron
Nyní se ale na chvíli pojďme podívat na společnost samotnou: Kneron je předním hráčem v oblasti technologie edge AI. Se sídlem v San Diegu, CA, USA, tato firma vyniká v návrhu a vývoji integrovaných softwarových a hardwarových řešení pro širokou škálu aplikací, spojujíc přitom svět elektroniky, počítačů, výroby a softwaru. S týmem tvořeným 150 specialisty, je Kneron jedním z klíčových hráčů v sektoru informačních technologií.
Společnost Kneron byla založena v roce 2015 a od té doby zaznamenala působivý růst, což dokládají i různá kola financování, která společnost absolvovala. Zásadními investory, kteří do Kneronu vložili své naděje (a úspory), zahrnují giganty jako Alibaba, Qualcomm, Sequoia Capital a Horizons Ventures. Celkově společnost získala více než 170 milionů dolarů během několika kol financování, s posledním kolem Series B v říjnu 2022, kdy bylo získáno 48 milionů dolarů od Horizons Ventures, Liteon Technology a Adata Technology.
Společnost se neustále rozrůstá a působí v oblastech, jako jsou počítačový hardware, e-commerce, software a vydavatelství, díky čemuž může poskytovat technologická řešení nejenom pro spotřebitelské (B2C), ale také i pro podnikatelské klienty (B2B a SAAS).
Překážky a řešení: Efektivita energie
Jedním z klíčových problémů, který brání širokému rozšíření AI technologie, jsou vysoké náklady spojené s energeticky neefektivním hardwarem.
KL730 dosahuje úžasného 3-4x nárůstu energetické efektitivty ve srovnání s předchozími modely a tvrdí, že je až 2x energeticky efektivnější než jeho hlavní konkurenti v průmyslu.
Albert Liu, zakladatel a generální ředitel společnosti Kneron, prohlásil:
„Provozování AI vyžaduje AI-specializované čipy s architekturou, která je naprosto odlišná od všeho, co jsme doposud viděli. Jednoduché adaptování dřívějších technologií, jako jsou GPU čipy určené pro grafiku, prostě není dostatečné.
KL730 je měničem pravidel pro špičkové AI modely. Díky jeho bezprecedentní efektivitě a podpoře pro transformační neuronové sítě umožňujeme uživatelům z různých odvětví naplno využít potenciál AI, aniž by kompromitovali ochranu dat a bezpečnost.“
Obrázek 2 – Midjourney: Dark energy
Proč je energetická spotřeba takovým problémem?
Při představě umělé inteligence si většina z nás představí bleskurychlé výpočty, ohromující algoritmy a výsledky dosažené v zlomku sekundy. Co ale často přehlédneme, je to, kolik energie tyto výpočty skutečně spotřebují.
Umělá inteligence, zejména hluboké učení a komplexní neuronové sítě, potřebují obrovské množství výpočetní kapacity. Každá operace, každý krok učení, každá analýza obrazu či zvuku vyžaduje zpracování dat. A tato zpracování mají svou cenu – a to jak finanční, tak energetickou.
V dnešní době, kdy se svět snaží bojovat proti změně klimatu a snižovat uhlíkovou stopu, se energetická efektivita stala klíčovým slovem. Modely AI, které vyžadují obrovské servery, mohou spotřebovávat tolik elektřiny, kolik spotřebuje celé malé město.
Jak to řešit?
Optimalizace algoritmů a softwaru je jedním ze způsobů, jak snížit spotřebu energie AI modelů. Ale skutečný potenciál tkví v hardwaru – konkrétně v čipech, které tyto modely pohánějí.
Zde vstupuje na scénu čip jako KL730. Tento čip je navržen tak, aby poskytoval nejen výpočetní kapacitu potřebnou pro AI operace, ale také aby byl energeticky efektivní. Když mluvíme o 3-4x energetické účinnosti v porovnání s předchůdci, znamená to, že tento čip může provozovat stejné AI operace s použitím pouze čtvrtiny, nebo třetiny energie, kterou by jinak potřebovaly tradiční čipy.
Obrázek 3 – Midjourney: AI modern chip
Hranice technologie a soukromí
Kneron již dlouho prosazuje špičkovou AI bez potřeby připojení k cloudu a neustále pokračuje v pokročilých bezpečnostních funkcích pomocí řady lehkých, ale škálovatelných čipů.
V roce 2021 představila Kneron KL530 – průkopnický edge AI čip, který podporuje transformační neuronové sítě a tvoří páteř GPT (Generative Pre-trained Transformer) modelů.
Čip KL730 přináší do světa technologií nový rozměr výpočetního výkonu, kdy se základní kapacity pohybují v rozmezí od 0,35 do 4 efektivních tera operací za sekundu. To jinými slovy znamená až 0,35 trilionu do 4 trilionů operací za sekundu! Tato schopnost zvyšuje potenciál čipu pro podporu současných, náročnějších jazykových modelů GPT, konkrétně těch menších, jako je nanoGPT. Není tak od věci se domnívat, že na čipech podobného rázu by mohli stát nové verze AI modelů jako například GPT-5.
Důležitým aspektem KL730 je také jeho potenciál v oblasti AIoT bezpečnosti. Díky čemuž mohou uživatelé provozovat GPT modely v částečném nebo úplném offline režimu, čímž se zvyšuje nezávislost na trvalém internetovém připojení.
Pro doplnění čtenářovo znalostí a pochopení významnosti výše uvedených schopností si zde dovolím vysvětlení pojmů „NanoGPT“ a „AIoT“. Začněme tím prvním:
Co je to NanoGPT?
NanoGPT je nástroj, který umožňuje vývojářům trénovat a ladit středně velké GPT modely v kontrolovaném prostředí. Můžeme ho chápat jako „sandbox“, což je izolované prostředí určené k experimentování a testování. Umožňuje uživatelům pracovat s algoritmy umělé inteligence a upravovat je, aniž by ovlivnili vnější systémy, což je ideální pro testování nových myšlenek a řešení před jejich nasazením v širším měřítku.
Co je to AIoT?
AIoT, neboli „Umělá inteligence věcí“ (v originále „Artificial Intelligence of Things“), je kombinací umělé inteligence (AI) a internetu věcí (IoT). Zatímco IoT odkazuje na propojená zařízení, která shromažďují a vyměňují data prostřednictvím internetu, AI je technologie, která umožňuje strojům analyzovat tato data a na základě nich provádět inteligentní akce.
Když spojíte tyto dvě technologie dohromady, získáte AIoT. To znamená, že zařízení nejen komunikují mezi sebou a shromažďují data, ale také samostatně vyhodnocují tato data a reagují na ně bez lidského zásahu. V praxi může AIoT například zahrnovat inteligentní kameru, která rozpoznává a analyzuje obrazy v reálném čase, nebo termostaty, které se učí chování uživatele a automaticky upravují teplotu v místnosti.
Zvýšená bezpečnostní ochrana
Při kombinaci s Kneo – specializovanou a zabezpečenou edge AI sítí od společnosti Kneron – KL730 umožňuje, aby se AI nacházela přímo na koncových zařízeních uživatelů. Toto umístění zvyšuje kontrolu uživatelů nad ochranou jejich dat a má dopady na širokou škálu odvětví. Může to být vše od firemních serverů až po AI poháněné lékařské přístroje.
Jedním z klíčových prvků je zvýšená bezpečnostní ochrana, která podněcuje lepší integraci mezi zařízeními, aniž by bylo ohroženo soukromí uživatelů. To v praxi znamená, že inženýři mohou například vyvíjet nové polovodičové čipy bez nutnosti sdílení citlivých dat s velkými cloudovými poskytovateli, kteří provozují masivní datová centra.
Obrázek 4 – Midjourney: Cyberpunk street
Vize budoucnosti
Od svého založení v roce 2015 si Kneron neustále získává uznání díky své rekonfigurovatelné NPU architektuře a bylo mu uděleno již několik ocenění, včetně prestižního Darlingtonovy ceny společnosti IEEE Cas Society za průlomové technologie.
Kneron obsluhuje rozmanitou klientelu v oblastech AIoT, bezpečnosti, automobilového průmyslu a edge server aplikací. Renomované společnosti jako Toyota, Quanta, Hanwha a Dessmann již dříve vkládali svou důvěru do odborných znalostí společnosti, aby se udrželi na vlně inovace a technologií.
Společnosti, které jsou dychtivé zkoumat možnosti, které umožňuje KL730, by neměly dlouho čekat. Kneron uvádí, že vzorky budou k dispozici už „brzy“.
Shrnutí
- Nový čip KL730: Podporován Qualcommem, Kneron představuje svůj nový neuronový procesorový (NPU) čip, KL730, nabízející energeticky efektivní provoz pro různé aplikace AI od serverů až po domácí spotřebiče.
- Vlastnosti KL730: Čip nabízí vysokou energetickou účinnost a bezpečnost, může zpracovávat digitální signály, jako jsou obrazy, videa a zvuky, díky modernímu perifernímu rozhraní.
- Energetická efektivita: KL730 dosahuje 3-4x vyšší energetické účinnosti než jeho předchůdci a je až 2x efektivnější než konkurenční čipy.
- Technologie a soukromí: Kneron se zaměřuje na AI operující offline pro zvýšenou bezpečnost. KL730 podporuje současné jazykové modely GPT, což může ovlivnit budoucí AI modely jako GPT-5.
