AMD AI Bundle: Aplikace umělé inteligence v ovladačích Radeonů

V dnešní době by se asi dal parafrázovat vtip z dob komunismu, že ze všech stran na vás útočí umělá inteligence a člověk se bojí otevřít konzervu, aby ji tam nenašel také (místo mumií sovětských masových vrahů v původní verzi). Teď na vás AI vybafne, máte-li GPU Radeon. AMD bývalo vytýkáno, že je v umělé inteligenci pozadu za Nvidií, na což reaguje nový „AI Balík“, který firma uvádí v ovladačích pro grafické karty.

Jedná se o volitelný doplněk, který můžete nainstalovat spolu s ovladači GPU Radeon, nazvaný AI Bundle. a byl publikován minulý týden spolu s novými ovladači AMD Software Adrenalin Edition 26.1.1. Jsou v něm předpřipravené různé aplikace pro použití modelů umělé inteligence na počítači s grafikou Radeon a/nebo procesorem AMD – například pro generování obrázků a video klipů, ale i jazykové modely.

Jde přitom o lokální AI, kdy model běží na vašem zařízení (musíte ho tedy mít stažený a uložený, což zabere dost místa) a je to celé soukromé. Na rozdíl od toho, když používáte něčí online službu typu ChatGPT, Gemini nebo Copilot v Bingu a všechny vaše dotazy a úkoly cestují na server poskytovatele, který tak vidí (a může si zaznamenávat) vaše nejtemnější a/nebo nejtrapnější nápady.

Důvod, proč toto AMD dělá, je v tom, že dřív nebylo úplně snadné AI aplikace rozběhat. Platívalo to i na grafikách Nvidia, kdy hodně nástrojů vyžadovalo rozsáhlé instalace vývojových prostředí a SDK, příkazovou řádku a podobně – něco na úrovni kompilování ne úplně malých softwarových projektů. Proto také AI byla více věcí Linuxu než Windows, kde uživatelé očekávají hotové „dopečené“ aplikace, které jsou připravené k použití. A v případě GPU od AMD byla tato přístupnost vždy ještě obtížnější a problematičtější, protože ve Windows dlouho byla podpora výpočetního prostředí ROCm pro GPU AMD slabá, pokud vůbec existovala.

AMD v poslední době ROCm dotáhlo de použitelnější formy, kdy už oficiálně podporuje novější modely grafik ve Windows. A tento AI Bundle k tomu dodává druhou část, tedy výběr aplikací a softwarových komponent, které jsou připravené, zkompilované a předkonfigurované pro počítač s kartou Radeon nebo procesorem Ryzen a ihned k použití bez těch výše popisovaných bariér.

Jde jak o uživatelské aplikace, tak i o nástroje a prostředí pro vývoj. Tento výběr má asi být už částečně použitelný k „produktivitě“, ale částečně jde spíš o demonstraci schopností akcelerace AI na grafikách AMD ve Windows než vyčerpávající kompletní sadu všeho, co by zájemce o AI mohl potřebovat nebo chtít. Co je v balíku:

• PyTorch pro Windows: Široce používaný framework pro aplikace umělé inteligence, který umožňuje použít již hotové modely natrénované někým jiným (tj. úlohy inference), tak i vývoj a tvorbu vlastních AI modelů (trénování).
• ComfyUI: Nástroj, který slouží jako uživatelské prostředí pro práci s různými AI modely běžícími na PyTorch. Je možné přímo z něj modely instalovat a pak používat. Poznámka: Tato aplikace z nějakého důvodu nepřidala zástupce do nabídky start, najdete ji nainstalovanou v cestě AppData\Local\AMD\AI_Bundle\ComfyUI ve své osobní složce ve Windows, kde se dá spustit pomocí souboru Launch_ComfyUI.bat (cesta k programu se dá najít třeba z oné aplikace AMD Install Manager).
• Ollama: Nástroj pro AI modely typu LLM (velké jazykové modely), sloužící k lokálnímu generování textu, kódu (programů) a automatizaci, které je možné používat samostatně nebo integrovat do programů nebo skriptů. Modelů je k dispozici přímo z rozhraní programu docela dost, přičemž volitelně lze použít i (větší) modely v cloudu místo těch lokálních.
• LM Studio: Také slouží k instalaci a běhu velkých jazykových modelů, se snadno přístupným nastavováním a upravováním jejich parametrů.
• Amuse 2.0: Aplikace, která již byla k dispozici dříve, pro generování obrázků a videa přímo z grafického uživatelského prostředí (bez potřeby pracovat s příkazovou řádkou a tak podobně), přičemž také umožňuje zvolit a stáhnout různé modely pro generování obrazu/videa. Vedle klasického generování z textového promptu umí generovat i z ruční kresby nebo hotového obrázku, a také poskytuje funkce inpainting a feature extractor.

Balík AI Bundle je dostupný pro grafiky Radeon RX 9000 a část modelů generace Radeon RX 7000 – měly by to být karty od Radeonu RX 7700 XT nahoru. U levnějších karet budete limitováni na méně užitečné a kvalitní modely, protože schopnosti se zlepšují s počtem parametrů (který odpovídá spotřebované paměti).

Alternativně ale může posloužit novější procesor Ryzen – APU Krackan, Strix Point, Gorgon Point nebo Strix Halo, tedy Ryzeny AI 300 a 400. Jednotlivé aplikace se liší v tom, zda běží na GPU, NPU nebo CPU jádrech. APU mají výhodu, že mohou alokovat pro model více paměti, než samostatná grafika – pokud máte v PC či notebooku dost RAM.

Volitelná instalace, ovladač vám AI nebude nutit

Balík by se neměl instalovat automaticky (což je dobře, protože zabírá až desítky gigabajtů na disku). Vybrat si ho můžete v momentě instalace ovladačů, v kterých je nabídnutý jako volitelná položka.

Pokud máte nainstalovanou utilitu AMD Install Manager, která ovladače stahuje a aktualizuje automaticky, lze ji otevřít a volba AI Bundle je v ní také k dispozici. Volbou „Nainstalovat …“ se dají stáhnout a nainstalovat všechny položky, kliknutím na šipku vedle by měly jít vybrat jen některé součásti.

Tato novinka neznamená, že by uvedené aplikace byly nějak prorostlé do samotných ovladačů grafik Radeon – jde o oddělenou instalaci, která by měla jít samostatně odebrat a v aplikaci AMD Software se nijak neprojeví. Pokud tedy jste na „AI slop“ alergičtí a nechcete a chcete prostě hrát hry a používat počítač, neměl by vás AI Bundle nijak zasáhnout.

Zdroj: AMD

Jan Olšan, redaktor Cnews.cz

⠀