Nechtějte vlastní RAM, říká šéf OpenAI. Servery ji prý využijí líp

Silicon Valley vyprodukovalo typ arogantních osobností, kterým se říká „techbros“, a jednou z jejich vlastností bývá přesvědčení, že jejich technologické byznysy jsou ta nejdůležitější věc na světě. Když se teď šéf OpenAI Sam Altman vyjádřil k problému s dostupností počítačů a hlavně pamětí – jenž vinou AI společností trápí všechny spotřebitele – nelze se ubránit dojmu, že se mu zachtělo sesadit nekorunovaného krále techbros Elona Muska.

Sam Altman, CEO a zakladatel společnosti OpenAI, jednoho z největších podniků, které se na AI boomu (nebo možná i bublině) podílí a stojí například za modely řady ChatGPT, teď poskytl rozhovor youtubovému kanálu Cheeky Pint. V tom se hovořilo i o tom, zda je lepší, když budou mít AI pod palcem obří společnosti ovládající centralizovaná datacentra a pronajímající AI jako službu, nebo tzv. lokální AI, kdy si uživatel koupí vlastní hardware a AI modely si na něm spouští sám bez toho, aby za to někomu odváděl desátky (tedy mimo plateb za propálenou elektřinu). Lokální AI samozřejmě není dobrá pro OpenAI, protože by jí vzala tržby.

A z tohoto tématu se Sam Altman odpíchl k pozoruhodné úvaze, která určitě potěší všechny ty, kdo se zděšením sledují, jak razantně zdražují notebooky, telefony, herní PC a konzole, ale i nejrůznější další elektronika. Podle Altmana jsou paradoxně právě vysoké ceny pamětí a to, že je jich nyní na trhu silný nedostatek důvod, proč je správné, že je nakupují AI firmy a běžní spotřebitelé na ně nemají peníze. Altman když to trochu přeženeme říká, že byste jako domácí uživatelé neměli paměti pro svůj počítač vlastnit.

Důvod je podle něj ten, že jde o omezený zdroj a v AI datacentru OpenAI podle něj bude využitý mnohem lépe. Tím, že bude sloužit výpočetním GPU, která zpracovávají AI výpočty pro klienty, kteří za ně platí a je jich tolik (doufá OpenAI), že se server a jeho RAM prakticky nezastaví. Zatímco u vás doma podle Altmana taková paměť bude využitá třeba jen 5 % každého dne. Což je velká škoda a neefektivní plýtvání vzácným nedostatkovým zdrojem.

Hodně lidí chce lokální inferenci. A myslí si, že tím se problém vyřeší. Protože budeme mít open-source modely a budeme je moci spouštět na vlastních počítačích, takže nebudeme potřebovat všechno to v data centrech. Jenže z globální perspektivy je vlastně strašně špatně, aby každý člověk měl spoustu RAM, jejíž celosvětová zásoba je tak omezená, a aby mu jen seděla v jeho vlastním počítači a využitá byla jen 5 % celkového času. Co byste měli chtít, pokud chcete vyřešit tento problém, že jsou zásoby velmi omezené, je aby tato RAM byla použitá v cloudu s maximálním vytížením. Ale z nějakého zvláštního důvodu si spousta lidí intuitivně myslí opak. [Sam Altman, pro Cheeky Pint]

Jde o dost pikantní výroky a úvahy, protože hlavním a možná i jediným důvodem extrémně vysokých cen pamětí a nedostatku těchto čipů je to, že firmy jako Altmanovo OpenAI skupují obrovské množství pamětí pro AI datacentra. Jejich nákupy přitom z velké většiny nejsou podložené nějakým reálným produktivním komerčním provozem, který by tento hardware už skutečně potřeboval a využíval. Tato datacentra se všude po světě budují na dluh a úvěry do jisté míry spekulativně – s vidinou, že AI jednak spolkne investice v řádu bilionů dolarů, a poté že se to nějakým způsobem všechno zpětně zaplatí – místo aby to skončilo splasknutím bubliny a černou díru zalátá to, že běžní lidé přijdou o své úspory v bankách, které na to vše půjčily.

Sam Altman, CEO OpenAI
Sam Altman, CEO OpenAI

Na obranu tohoto velmi „techbro“ postoje je třeba říct, že Altman nejspíš nebyl až tak zahleděn do sebe, aby myslel slova o tom, kdo má největší právo na vlastnictví paměti, úplně obecně a nechtěl kritizovat uživatele, kteří mají normálních 16 nebo 32 GB pro běžné každodenní použití, práci a hry. Tato „kritika“ byla primárně míněna hlavně v kontextu firem a profesionálů, kteří místo používání služeb cloudových AI firem mají v lokální pracovní stanici třeba 128 GB používaných pro lokální využití AI modelů, jelikož toto téma Altman předtím probíral. Pak argument může dávat určitý smysl v úzkém teoretickém smyslu.

Nikde není psáno, že je AI důležitější než zbytek světa

Ovšem je dobré si uvědomit jednu věc: Taková lokální řešení AI jsou však konkurentem OpenAI, takže lze oprávněně namítnout, že Altman coby zainteresovaná strana není tím, kdo by měl v tomto sporu o RAM „rozhodovat“. Těžko lze přijmout to, že by zrovna jeden z hráčů (a konkurentů) na trhu měl právo kecat do toho, kdo má něco vlastnit.

Paměti DDR5-7200 od Samsungu vyráběné na EUV 12nm procesu (zdroj: Samsung)

Kromě toho lze mít také podezření, že celý důvod, proč se do tohoto filozofování Altman pustil (a zamotal), byla snaha nějak odvést pozornost od toho, kdo vlastně za všechny problémy může. Což shodou okolností jsou společnosti jako OpenAI.

A vůbec: Myšlenka, že AI společnosti jsou vlastně důležitější a více záslužné a hodné toho, aby mohly výpočetní techniku vlastnit (zatímco vy byste si od nich její výkon měli pronajímat), je arogantní a přezíravá sama o sobě.

Dříve se v byznysu občas uváděla mantra „náš zákazník, náš pán“ a i v případě OpenAI by pořád mělo platit, že jde o firmu, která nabízí nějaké zboží nebo služby nějakým zákazníkům. Tyto výlevy Altmana ale nevyznívají tak, že by se chápala jako toho, kdo „slouží“ v tom smyslu, že myslí na jejich potřeby a snaží se jim vyhovět. Zní to naopak tak, že za „pána“ zde firma považuje sebe sama. Což je asi něco, co je asi v dnešních firmách bohužel běžné a v těch, které v krátké době extrémně vystřelily vzhůru, ještě víc. Nevyhnulo se to rozhodně ani hlavnímu králi AI byznysu Nvidii a jejímu CEO Jen-Hsun Huangovi. Doufejme, že Altman úplně nezešílel, například z konzumace vlastního marketingu, a nemyslí si, že místo lidí je jeho zákazníkem a pánem světa AI jako taková.

Zdroje: Cheeky Pint, TechPower

Jan Olšan, redaktor Cnews.cz


⠀

Contents

Ikona AI padá. Jen-Hsun Huang končí po 33 letech jako šéf Nvidie

Jde to rychleji, než jsem čekal, dalo by se říci s klasikem. Před týdnem se teprve rozproudily zprávy o aféře šéfa Nvidie Jen-Hsuna Huanga, která kromě nevěry znamenala i ohrožení bezpečnosti USA, jelikož se podle všeho zapletl s čínskou špiónkou. Správní rada ovšem Huangovi vyslovila důvěru a on sám spolu s omluvou vyjádřil odhodlanost pokračovat. Ovšem problémů má podle všeho víc, a tak je po pouhých pár dnech všechno jinak. Celý článok „Ikona AI padá. Jen-Hsun Huang končí po 33 letech jako šéf Nvidie“ »

Šéf Nvidie se přiznal a omluvil za nevěru, správní rada vyšetřuje

V pondělí jsme psali o dosti mimořádném skandálu šéfa a zakladatele firmy Nvidia Jen-Hsun Huanga. Jak uniklo do médií, dle amerických tajných služeb měl mít milostný poměr s agentkou čínských tajných služeb, která byla zaměstnankyní jednoho z klientů Nvidie – firmy, která odebírala GPU za miliardy dolarů a je podezřelá, že je navzdory sankcím skrytě kupovala pro Čínu. A již nejde jen o podezření – Huang se nyní ke vztahu přiznal. Celý článok „Šéf Nvidie se přiznal a omluvil za nevěru, správní rada vyšetřuje“ »

Šéf Nvidie prý měl poměr se špionkou, která do Číny pašovala GPU

Je to zpráva spíš jako ze stránek bulvárního časopisu, ale tato aféra může mít poměrně velké dopady na technologický průmysl i na politiku, která je s ním propojená. Týká se totiž společnosti Nvidia, která je první firmou, jejíž hodnota na akciovém trhu přesáhla pět bilionů a je i zřejmě největším výhercem celého boomu kolem umělé inteligence. Přesto se zapletla do podivného problému, u kterého je zatím těžko hádat, k čemu povede. Celý článok „Šéf Nvidie prý měl poměr se špionkou, která do Číny pašovala GPU“ »

Pridaj komentár

Vaša e-mailová adresa nebude zverejnená. Vyžadované polia sú označené *