Porazí Intel s procesory Lunar Lake AMD v integrované grafice?
Microsoft spolu s výrobci notebooků a procesorů plánuje příchod tzv. AI PC (a svou vlastní verzi prý chystá také Apple, až vydá procesory M4). Tato zařízení budou potřebovat výrazně vyšší výkony, aby mohla provozovat pokročilé neuronové sítě lokálně na vlastním hardwaru. Intel se teď pochlubil výkonem chystaných procesorů Lunar Lake, které přijdou koncem roku do mobilních zařízení jako Core Ultra druhé generace.
Lunar Lake jsou čipletové procesory používající 3nm výrobní proces TSMC, které vyjdou na konci roku 2024 nebo začátkem roku 2025 jako Core Ultra druhé generace a budou specializované na mobilní segment, zatímco výkonnější procesory bude ve stejné generaci zajišťovat sesterská architektura Arrow Lake.
Intel již před nedávnem sdělil, že Lunar Lake má mít víc než trojnásobný AI výkon v TOPS proti první generaci Core Ultra (Meteor Lake), u níž se uvádí jen 10 TOPS, nicméně nesdělil přesné číslo. Nyní během akce Vision 2024, kde také oznámil 4nm procesory Meteor Lake do socketu LGA 1851, ale CEO Patrick Gelsinger prozradil, že výkon dosáhne 45 TOPS, což má být laťka Microsoftu pro lokální umělou inteligenci.
Gelsinger ale teď řekl další, zajímavější číslo – souhrnný výkon celé platformy, čímž se myslí i se zahrnutím jader CPU a GPU. Takto má mobilní procesor Lunar Lake dosáhnout víc než 100 TOPS. Pokud počítáme, že jádra CPU, která mají jen 256bitové SIMD instrukce AVX2 a VNNI256, budou pravděpodobně dodávat jen jednotky TOPS, pak z toho vychází, že integrovaná grafika Lunar Lake by mohla dodávat okolo 50 TOPS (ne-li víc) výkonu pro AI aplikace.
Hodně dobré iGPU v Lunar Lake?
Pokud AI ponecháme na chvíli stranou, toto by mohlo znamenat, že procesor má hodně výkonné GPU, s kterým by mohl překvapit například v herních handheldech (zda to bude dost, aby nachytal AMD nepřipravené, to je jiná otázka). AI výkon v TOPS obvykle znamená operace s 8bitovými celočíselnými hodnotami (INT8). Pokud by tento výkon byl poskytovaný na jednotkách XMX, pak to nic moc neříká o standardním grafickém výkonu, ale pozor – u integrované grafiky v Meteor Lake Intel XMX vyhodil, protože duplikují funkci NPU. To samé by tedy mohlo být provedené u Lunar Lake, které ovšem používá už novou architekturu Xe2 LPG (Battlemage), takže předpoklady založené na dnešní generaci GPU Intel Arc a Meteor Lake nemusí platit (v dobrém i ve zlém).
Pokud Lunar Lake nemá XMX a 50 TOPS dosahuje na svých klasických výpočetních jednotkách, pak by výkon GPU v hodnotách FP32 mohl být okolo 12,5 TFLOPS (protože u SIMD jednotek jsou operace s čtvrtinovou šířkou datového typu 4× výkonnější). A to není na integrované GPU vůbec špatné, Ryzeny 8000 „Hawk Point“ by měly na grafice Radeon 780M mít 8,3 TFLOPS, a to je ještě po započtení dual-issue architektury RDNA 3. Bez této funkce, jejíž praktický přínos je zatím spíš omezený, by to byla polovina (nicméně podobně to může být i s TFLOPSy u Battlemage a Lunar Lake). Mimochodem, mobilní Ryzen 9 8945HS (nyní nejvýkonnější notebookový procesor v nabídce AMD, má oficiálně udávaný celkový výkon platformy 39 TOPS, v porovnání s oním >100 TOPS u Lunar Lake. AMD ale do té doby také může vydat novou generaci Strix Point.
Je tedy možné, že grafika Lunar Lake bude překvapivě nadupaná a mohlo by v případě, že se Intelu podaří včas dosáhnout dobré stability a optimalizace ovladačů, jít o takové malé mobilně-herní monstrum. Ještě je tu tedy jedna možnost, na kterou je třeba si dát pozor: Pokud by těch 100 TOPS bylo v operacích INT4, pak by vycházel grafický výkon v FP32 pouze poloviční, tedy cca 6,25 TFLOPS). Uvidíme, zda v tomto není háček…
Lunar Lake by podle tohoto paradoxně mohlo být úplně na ruby proti tomu, co byste od Intelu historicky čekali – tedy může být slabší hlavně ve výkonu CPU (oproti vysokému výkonu GPU a NPU), kde nabízí jen čtyři velká jádra a čtyři malá E-Core, což by se při tradičním pohledu dalo asi označit za ekvivalent šesti velkých jader.
Architektura E-Core u procesorů Lunar Lake a Arrow Lake ale prý bude značně vylepšená (objevují se drby, že by dokonce mohla ukázat větší pokroky než nové P-Core), takže je možné, že SoC bude schopný dodávat víc výkonu, než se zdá ze suché informace, že má konfiguraci 4+4. Samozřejmě ale nevíme, jak dobře bude Lunar Lake schopno potenciální výkon realizovat v rámci omezených spotřeb, s nimiž bude muset v noteboocích operovat.
Více: Arrow Lake a Lunar Lake použijí 3nm proces TSMC, ne Intel 20A
Celkový AI výkon může být ošidná metrika
Je třeba upozornit, že je dost otázka, zda nějaké aplikace budou vůbec schopné využít celé takto udávané „výkony platformy“ jako těchto 100 TOPS, tedy kombinovaný výkon CPU, GPU i NPU. Potřebovaly by totiž rozložit své výpočty mezi různé výpočetní backendy s různým přístupem k paměti a různou architekturou, nemluvě o tom, že jde o různá zařízení, která nejsou nijak spojená dohromady.
Obvykle se s tím asi aplikace nebudou párat a poběží buď jen na GPU, nebo jenom na NPU, případně s nějakou asistencí procesoru či GPU pro část pomocných výpočtů, preprocessingu a různých obslužných operací, které nepoběží přímo na maticovém hardwaru NPU nebo na GPU. Dost bude samozřejmě i záležet na tom, pro jaké backendy aplikace bude napsaná a odladěná, z tohoto důvodu může někdy zůstat specializovaný hardware, který by teoreticky určitou AI mohl pohánět, nevyužitý.
Zdroj: Tom’s Hardware
Jan Olšan, redaktor Cnews.cz
⠀
ja to cele komplet ako to je, nechapem. Netusim naco je dobra AI v pocitaci – ok, apple ma Siri, americky win mal Cortanu, amazon ma Alexu…. to pochopim, ze tito „asistenti“ budu vediet leprie reagovat. Ale ak nebudem mat vo windowse cortanu – co sme my europania alebo aspon slovaci nikdy nemali, tak naco mi bude ta AI?? Za dalsie, ok, mam AI a to mi cojaviem vyhlada „najdi mi moj prispevok na hwcooling, kde som pred asi 7 rokmi napisal slovo „i7 4790“, tak ta AI 10 sekund bude „hladat“ a vyhodi mi co som chcel. Na to potrebujem teda presne 45TOPS (nech to znamena cokolvek)? Lebo ked budem mat len 10TOPS, tak mi to odmietne fungovat namiesto toho, aby to hladalo 40 sekund?
Budeme sa s pocitacom bavit ako Michael s Kittom v Knight rider, alebo nebudeme? Lebo ked nie, tak tento „osial“ upadne do zabudnutia ako Cortana alebo 3D filmy v TV.
Ta kapacita může mimo jiné posloužit lepšímu a efektivnějšímu rozpoznávání tváře, gest, různých projevů. Dále k převodu textu na řeč a opačně. Pak samozřejmě poslouží copilotovi při různých činnostech, které můžeš dnes provádět pouze vzdáleně (online), mimo jiné možná i generování obrázků.
Co je pro mě osobně fakt super funkce, že umí vyhledávat v obsahu videa, rozpoznávat jeho obsah.
ale ved ked na 45tops bude prevod rec-txt okamzite, tak s 10tops bude mat 1sec lag. Noa? Online bude musiet byt ten asistent, lebo bez internetu si ani neprdne. Len jeho vypocty budu prebiehat u teba doma a nie na servri amazonu. Policajtov zavola uplne rovnako, ked sa pohadas so zenou
Nejde jen o rychlost, chceš hlavně přesnost, a nakonec i efektivitu. A aby prolustroval tvou soukromou sbírku videa už nebude muset být online.
moju zbierku videa si moze prestudovat vnoci ked spim. Presnost bude rovnaka, len mu to bude dlhsie trvat. Ako ked si chces vyrenderovat obraz z kamery, tak ti to vyrenderuje aj i3ka, ale s i9 to bude rychlejsie. Prirovnam to k akceleracii hier… ked sme hrali dooma alebo prvy tombraider, tak este neboli akceleratory a islo to hrat cez procesor. Postupne sa do pocitacov dostali specialne procesory na render grafiky a dnes si bez GPU ani neprdnes. Rovnako to moze byt s akceleraciou vypoctov AI. Len to nebude take jednoduche ako pri grafike.
Jednoduše přibude možnost pro rollback a tím půjde dosahovat větší efektivity. Program detekuje dostupné kapacity, v nejlepším případě provede operaci na GPU, v horším na NPU a v nejhorším případě použije klasická procesorová jádra s neúměrným nároky na napájení. Nějaké hybridní použití bude asi dost vzácné.
„Cortanu, amazon ma Alexu…. to pochopim, ze tito „asistenti“ budu vediet leprie reagovat“
to je omyl.
Ale ano. Doposud jsi byl takřka při všem odkázán na připojení k internetu. Obrazně už nebude zapotřebí být online, abys zhasnul světla, nebo aby ti asistent zabránil vstupu do bytu proto, že jsi třeba jen mimoděk řekl negr 🙂
to sa este uvidi, koho AI si das. Dnes je sloboda slova minulostou a ak takyto AI asistent bude pocuvat vsetko, co doma hovoris, tak sme v .
Ještěže jste orientovaní v makroekonomii a geopolitice, kluci. To tady potřebujeme.
„AI výkon může být ošidná metrika“
To je nejdulezitejsi sdeleni celeho clanku. Zadna soucasna aplikace (komercni soft & hry ) metody lokalniho AI nepouziva.
tzn. zadny program ktery dnes pouzivate se vam novym CPU nezrychli.
pisem to hore na priklade Knight Rider. Cely OS sa musi zment na Cortan/Alexu/Siri…. to nebudu aplikacie riesit.., uz povies Siri, Spusti skenovanie. Siri ti povie „sken 18042024_01.pdf pridany do dodacich listov“ Potom jej povies pridaj sken 18042024_01.pdf do uctovnictva. A ona nahadze polozky do skladu. Imho to je konecny ciel. Tak 2050 sa mozeme pobavit, ci sa podarilo 🙂 ak dozijeme
Jaktože nepoužívá? DLSS je co? Upscalovací GAN modely? Je to dnes už králičí nora.
Nedávno, například, všemi zapojenými médii proběhly zprávy o uvedení ChatRTX, to nešlo přehlédnout.