Procyon AI Image Generation Benchmark
Umělá inteligence je v tuto chvíli nejhvězdnější pojem počítačového světa. Ale zatímco výkon procesorů a GPU v programech a hrách se dá měřit množstvím různého software i ve snadno použitelných jednoúčelových aplikacích typu Cinebench nebo 3DMark, pro testování výkonu AI hardwaru toho moc není. A existující nástroje typicky připomínají spíš projekt pro programátora vyžadující kompilaci a podobně. UL to chce změnit se svým AI benchmarkem.
Firma UL Solutions, což je autor známých testů PCMark a 3DMark, teď vydává speciální benchmark akcelerace umělé inteligence – Procyon AI Image Generation Benchmark pro Windows. Ten testuje generování obrázků pomocí neuronové sítě Stable Diffusion XL, jde tedy o test tzv. inference, což je použití již vytvořeného AI modelu (oproti jeho trénování).
Test obsahuje dva základní režimy. Pro nejvýkonnější GPU je určený test Stable Diffusion XL (FP16) generující obrázky v rozlišením 1024 × 1024 bodů, jehož minimální požadavky ale momentálně splňují jen výkonnější highendové grafiky (alespoň podle UL, nároky na grafickou paměť zas tak vysoké nejsou).
Proto je přítomný ještě méně náročný test Stable Diffusion 1.5 (FP16), který generuje obrázky o rozlišení 512 × 512 bodů. Ten by měl aspoň teoreticky fungovat i s integrovanými GPU, pokud má PC aspoň 32 GB RAM.
Výstupem jsou nejen číselná skóre udávající výkon, ale i výsledné obrázky (jejich „prompt“ by měl být daný, ale mění se vlivem nedeterministického procesu generování v Stable Diffusion). Lze tak u nich zkoumat kvalitu či bezchybnost. Při testování lze také upravit různé parametry.
Procyon AI Image Generation Benchmark podporuje běh na více typech hardwaru. Pro GPU Nvidie je určený backend Nvidia TensorRT, pro grafiky Arc od Intelu se používá backend OpenVINO, pro Radeony runtime ONNX přes DirectML (optimální engine se vybírá automaticky). V budoucnu mají ale přibývat další enginy, s kterými by snad mohlo být možné testovat i další hardware mimo grafiky – jako NPU v procesorech nebo samostatné AI akcelerátory různých firem.
Tahle AI není pro chudý
Bohužel ale tento nástroj je podobně jako třeba nejvýkonnější výpočetní GPU Nvidie určený zcela jiným kruhům než obyčejným uživatelům se zájmem o hardware a technologie. UL míří na různé enterprise a velké firmy, protože tyto testy jsou mnohem dražší než běžný 3D Mark. Licence na sadu benchmarků UL Procyon (v níž jsou i další testy) stojí 5000 $, a to je licence jen na jeden rok. Teoreticky je možné, že pro média bude eventuálně dostupná nějaká zlevněná verze, ale pro běžného uživatele asi ne.
Zdroje: UL Solutions (1, 2), techPowerUp
Jan Olšan, redaktor Cnews.cz
⠀
Tlačí se na efektivitu, rychlost provedení, ale v analýze, projekci a přípravě zeje díra. Myslím si, že z téhle vlny strojového učení bude přinejmenším v úrovni mezilidských vztahů hodně mrzení.
„Umělá inteligence je v tuto chvíli nejhvězdnější pojem počítačového světa.“
Olsan
Pojem to je, srovnatelny s pojmem Raytracing. Realita je takova ze Microsoft se vyjadril ve smyslu, pro beh tech nejjednodussich AI na lokale je potreba minimalne 40 TOP.
Takovy vykon prvni generace nema, a druha mit take nebude. Obavam se ze az za 3-4 roky prijdou CPU schopne utahnout nejprimitivnejsi AI, ukaze se ze to ma podobny vyznam jako Raytracing v Cyberpunku.
Par honicu se nad tim bude ukajet, ale … to je tak vse.
Cože? A čeho je teda plný Hugging Face?