Společnost Anthropic v dubnu letošního roku udělala krok v posledních letech zcela výjimečný: přišla se zbrusu novým a zřejmě výrazně výkonnějším jazykovým modelem — aby ho (zatím?) nezveřejnila…
„Náš nový model Mythos už našel tisíce velmi závažných zranitelností, včetně bezpečnostních chyb v každém populárním operačním systému a v každém populárním prohlížeči,“ uvedla společnost v tiskovém prohlášení. Model byl firmou spuštěn výhradně v chráněném režimu pro vybrané společnosti v rámci Project Glasswing. Tato slova předznamenávají skutečnost, že předem prověřené firmy, jako jsou Cisco, Microsoft či CrowdStrike, dostanou v oblasti použití nového nástroje umělé inteligence (AI) „náskok“. Budou moci síly modelu Mythos použít pro kontrolu bezpečnosti svých produktů ještě před tím, než se podobně silný model dostane na veřejnost (přičemž samotný Mythos to patrně v dohledné době nebude, ten zůstane zřejmě „zamčený“).
Bezpečnostní průmysl
Hledání chyb v softwaru je dnes z pochopitelných důvodů jedním z velkých IT oborů. Velké softwarové firmy obvykle zaměstnávají celý tým lidí, kteří takové zranitelnosti hledají. Navíc nabízejí odměny (tzv. bug bounts) komukoli, kdo dokáže najít a zdokumentovat chybu (bug), která by mohla vést k obejití autorizace nebo k jinému nebezpečnému chování. Když ale někdo — řekněme nezávislá hackerka — takovou zranitelnost objeví, má na výběr: Může ji oznámit firmě, která software vyvíjí. Dostane peníze, zranitelnost bude v dohledné době zacelena, svět se točí dál. Anebo může zranitelnost prodat na černém trhu. Koupí ji nějaká hackerská skupina nebo (nejspíše skrze prostředníka) tajné služby. Ty mají velký zájem na tom, aby měly v zásobě důležité a dosud neodhalené zranitelnosti, které pak mohou využít pro kybernetické útoky nebo při prolamování šifrování, vzdáleném odposlouchávání a tvorbě „zadních vrátek“. S nástupem umělé inteligence schopné programovat se samozřejmě zvýšil počet vyprodukovaných řádků kódu a s tím i počet těchto bezpečnostních mezer. Do roku 2025 byla AI v bezpečnostních kruzích vnímaná především jako nebezpečný zdroj nových zranitelností. Lidé, kteří nikdy neprogramovali, najednou na web pouštěli aplikace, které velmi často obsahují školácké chyby dané nedostatkem základních znalostí o počítačové bezpečnosti.
AI se hlásí o místo
Koncem roku 2025 se ale začaly AI modely zlepšovat natolik, že dokázaly chyby nejen vytvářet, ale také aktivně odhalovat. Schopnosti hledat „aktivní zranitelnosti“ v kódu přitom rychle rostou. Donedávna nejsilnější model od Anthropic — Opus 4.6 z února 2026 — byl schopen najít zranitelnost, která se v jádře operačního systému Linux skrývala 23 let. „Když jsem stejnou úlohu zadal starším modelům, nedokázaly najít skoro žádnou zranitelnost,“ uvedl na nedávné přednášce Nicholas Carlini, výzkumník společnosti Anthropic. „Je vidět, že se modely v hledání bugů výrazně zlepšily. A Opus 4.6 není poslední model, který bude existovat.“ V době, kdy Carlini prezentoval výsledky modelu Opus 4.6, už nepochybně věděl o novém modelu Mythos. Ten má být v odhalování zranitelností ještě lepší. A to o tolik lepší, že by takový model byl nebezpečný, pokud by k němu měl přístup kdokoli. Nový model Mythos umí bezpečnostní díry nejen najít, ale také jich využít k tomu, aby z nich vyrobil zranitelnost, které může někdo zneužít, popsal — nyní už po oznámení Mythosu — Carlini: „Model umí zranitelnosti zřetězit. To znamená, že dokáže najít několik zranitelností, které by útočníkovi samy o sobě moc prostoru neposkytly. Ale zřetězením tří, čtyř, pěti takových zranitelností dokáže Mythos vytvořit velmi sofistikovaný útok.“ „Časové okno mezi odhalením zranitelnosti [bezpečnostní mezery v softwaru — pozn. red.] a jejím zneužitím kybernetickými útočníky se dramaticky zmenšilo,“ popisuje novou situaci Elia Zaitsev, technologický šéf Crowd- Strike, tedy jedné z vyvolených firem, která má k pokročilému Mythosu přístup. „To, co dříve trvalo měsíce, se dnes díky umělé inteligenci odehraje během několika minut.“ Mythos podle něj názorně ukazuje, jaké možnosti dnes mají obránci při plošné automatizované ochraně softwaru. „Je však nevyhnutelné, že se útočníci tytéž schopnosti pokusí zneužít ve svůj prospěch,“ varuje Zaitsev. Souhlasí i další firmy z oboru: „Schopnosti umělé inteligence od základů mění naléhavost, s níž musíme chránit kritickou infrastrukturu před kybernetickými hrozbami, a není cesty zpět,“ uvedl pro novináře Anthony Grieco, bezpečnostní šéf firmy Cisco. „Naše práce s těmito modely ukázala, že dokážeme odhalovat a opravovat bezpečnostní trhliny napříč hardwarem i softwarem v dříve naprosto nemyslitelném tempu a rozsahu. Jde o zásadní zlom a jasný signál, že staré způsoby procesu preventivního zabezpečování systémů už zkrátka nestačí.“
Jen pro vyvolené?
Minimálně v oboru počítačové bezpečnosti jsme se tak nepozorovatelně dostali k přelomovému okamžiku, kdy schopnosti AI dosáhnou úrovně, na které je nutné začít brát ohled na bezpečnostní rizika. V jisté míře se to týkalo už starších modelů, které například neměly poskytovat rady pro vytvoření zbraní hromadného ničení. Ale v případě Mythosu a otázky IT bezpečnosti se to týká sféry, ve které je AI „doma“, a kde tedy mohou být její dopady bezprostřední a velmi výrazné. Všechny velké i malé firmy od roku 2023 pospíchaly s každým novým AI modelem rychle na trh. Kdo platil základní předplatné, měl vždy přístup k tomu nejlepšímu v oblasti generativní AI. Firmy navíc provoz svých pokročilých systémů dotovaly, protože od uživatelů na oplátku získávaly informace o tom, jak lze tyto nástroje nasadit nebo jak je vylepšit. Anthropic nyní dává najevo, že tato éra končí a ke slovu přichází „byznys“. Společnost má k dispozici schopnosti, které (zřejmě) její konkurence (zatím) nemá. Otevírají se jí tedy nové obchodní možnosti a také velmi svůdná příležitost obsadit velmi zajímavý sektor trhu dříve, než se zákazníci budou moci obrátit na někoho jiného. Má to pro ni i jiné výhody: informace z amerických médií naznačují, že Anthropic díky svému modelu Mythos, respektive jeho užitečnosti pro americké vládní agentury a silové složky, může rychle „vyžehlit“ svůj spor s administrativou Donalda Trumpa. Ta nedávno firmu označila za bezpečnostní riziko (přestože model údajně využívala velmi intenzivně například při výběru cílů ve válce kampani proti Íránu). Společnost údajně nesouhlasila s tím, aby její technologie byly využívány pro masové sledování domácností a plně autonomní zbraňové systémy.
Jen nakrátko?
Dosavadní historie vývoje AI technologie ovšem znovu a znovu ilustrovala, že náskok jedné firmy netrval dlouho. Jestliže je nyní Mythos výrazně lepší než konkurence, velmi brzy to může být jinak. Můžou ho předehnat konkurenční OpenAI, xAI či Google DeepMind. Navíc se v poslední době ještě zmenšuje odstup mezi čínskými a americkými modely. Pokud tedy nyní existuje jeden model, který je schopen najít „tisíce vážných zranitelností“, je téměř jisté, že brzy takových modelů bude více. Chování Anthropicu se rozhodně nemusí opakovat — další hráči mohou mít brzy podobné schopnosti, ale jiné motivace. Pokud není Mythos založen na nějakém průlomu, který nedokáže konkurence napodobit (a tomu zatím nic nenasvědčuje), je velmi dobře možné, že brzy se obor kyberbezpečnosti může potýkat s vážnou krizí vyvolanou rychlým nárůstem schopností „pirátských“ AI modelů. Využívat zranitelností je totiž obvykle rychlejší, než je opravovat. /jj/
