Investice do datových center jsou dnes hlavním motorem růstu americké ekonomiky a v rychlosti a objemu investic do oboru jde o investiční epizodu srovnatelnou například s rozvojem železnice v 19. století ve Velké Británii nebo v USA. Poptávce přesto nestačí.
Google omezil využití modelu Gemini ze strany společnosti Meta, protože sociální gigant chtěl víc výpočetního výkonu, než mu konkurent dokázal dodat. Podle zdrojů serveru Financial Times to Google sdělil zhruba v březnu, omezení dosud platí a pozdrželo část interních projektů Mety. Firma kvůli tomu vyzvala zaměstnance, aby s tokeny, tedy jednotkami spotřeby AI, zacházeli úsporněji. Stejné omezení pocítili i další zákazníci Googlu, jen mírněji, Metu zasáhlo nejvíc kvůli mimořádně vysoké poptávce. Proč Meta cizí model potřebuje? Gemini u ní interně pohání odhalování podvodů, zákaznickou podporu i reklamní nástroje, a firma po něm sáhla, protože překonával její vlastní otevřený model Llama. Teď přesouvá zátěž na svůj nový model Muse Spark, který má být vůči Gemini konkurenceschopnější, a snaží se tak závislost na cizí AI snížit. Zatím ale Meta neměla ani dost vlastních výpočetních kapacit, ani dost dobrý vlastní model.
Čipy chybí všem
Jde o vzácný pohled do zákulisí. Přestože velké technologické firmy utrácejí desítky miliard dolarů za čipy, datová centra a energii, výkonu je pořád málo. Nejnáročnější je přitom běžný provoz hotových modelů (tzv. inference), ne jejich jednorázový trénink. Výzva Mety k zaměstnancům, ať šetří tokeny, ukazuje, jak tento tlak doléhá až na jednotlivé dotazy. Sám šéf Googlu Sundar Pichai v dubnu přiznal, že firma je v krátkodobém horizontu omezena výpočetním výkonem a že příjmy z cloudu by byly vyšší, kdyby stíhala uspokojit poptávku. Objem podepsaných, ale zatím nedodaných cloudových zakázek se Googlu během čtvrtletí takřka zdvojnásobil na více než 460 mld. USD. Firmy proto shánějí kapacitu, kde se dá. Google si začátkem června pronajal výpočetní výkon od SpaceX Elona Muska za 920 mil. USD měsíčně, podobnou smlouvu uzavřel měsíc předtím i Anthropic. Meta, která vlastní cloud nemá, slíbila do roku 2028 investovat ve Spojených státech 600 mld. USD do vlastních datových center. Její šéf Mark Zuckerberg přitom nešetří miliardami ani na získávání odborníků, protože chce vybudovat to, čemu říká osobní superinteligence. Souboj o výpočetní výkon a souboj o nejlepší model přitom spolu souvisejí: kdo nemá dost výkonu, kupuje ho od soupeře, a kdo nemá dost dobrý model, spoléhá na cizí.
/jj/