Letošní americká konference Black Hat 2026 se konala začátkem srpna v Las Vegas, kde se poprvé uskutečnila už v roce 1997. Tentokrát byla dominantním tématem bezpečnost umělé inteligence (AI). Řešila se obrana autonomních AI agentů, rizika spojená s firemními asistenty (Copiloty) i to, jak útočníci zneužívají velké jazykové modely (LLM).
Jedna z nejznámějších a nejprestižnějších konferencí o kybernetické bezpečnosti na světě se skrývá pod označením Black Hat. Je oblíbeným místem pravidelných setkání expertů, firemních manažerů a vládních agentů s lidmi z hackerské komunity. Cílem je sdílet nejnovější poznatky o rizicích, zranitelnostech počítačových systémů a metodách, jak se před nimi chránit. Název odkazuje na termín „black hat hacker“ (hacker s černým kloboukem), což v počítačovém světě znamená útočníka, který systémy napadá se zlými úmysly. Konference se však zaměřuje na to, aby tyto útočné techniky pochopili i obránci. Přednášky, semináře a diskuse letos potvrdily obavy, že AI dnes předbíhá kyberbezpečnostní kontroly a je do určité míry zodpovědná za kybernetické hrozby, které nás sužují. Zahajovací prezentaci s názvem Cyber Power in the Age of AI (Kybernetická síla v éře AI) vedli formou rozhovoru národní ředitel pro kybernetickou bezpečnost Bílého domu Sean Cairncross a Misha Laskin, bývalý vývojář Google DeepMind, který v roce 2024 založil americký startup Reflection AI, dnes oceňovaný na 25 mld. USD. Ředitel Cairncross zdůraznil, že současná americká administrativa nemá v úmyslu regulovat vývoj umělé inteligence a ve skutečnosti spolupracuje ruku v ruce se soukromými technologickými firmami na posílení amerických strategií kybernetické obrany. Účastníkům konference, z nichž mnozí jsou hackeři a nepocházejí ze Spojených států, řekl, že USA „spoléhají na vás všechny“, abyste ochránili nás všechny. Argumentoval, že regulace umělé inteligence by brzdila inovace a rozvoj a zároveň jen těžko držela krok s rychlostí, jakou se AI v současnosti vyvíjí. Prohlásil, že „umělá inteligence je obrovským příběhem amerických inovací“. Z diskuse bylo jasné, že v současnosti probíhá závod o vlastnictví umělé inteligence. Vláda prý hledá způsoby, jak vybudovat americkou open-source infrastrukturu, ze které by mohl těžit zbytek světa. Tato přednáška a některé další jsou volně dostupné na YouTube.
Úspěch operace Riptide
S velkým zájmem se setkalo vystoupení zástupce ředitele kybernetické divize FBI. Brett Leatherman poukázal na úspěch jejich operace Riptide, která vedla k zatčení více mnoha osob zapojených do kybernetické kriminality. A šest kyberútočníků bylo do USA vydáno z jiných zemí. Ředitel FBI Kash Patel uvedl: „Američané loni oznámili, že je kyberzločinci okradli o více než 20 miliard dolarů, což představuje 26% nárůst ztrát za jediný rok. Proto nám prezident Donald Trump svým nařízením uložil, abychom se důrazněji zaměřili se na kyberkriminalitu. Spolu s americkými a mezinárodními partnery provedla FBI 13 operací. Díky tomuto vysoce koordinovanému a vytrvalému úsilí jsme zatkli více než 200 lidí, zmrazili nebo zabavili více než 23 mil. USD nelegálních kryptoměn a dalších finančních prostředků a zahájili navrácení dalších 31 mil. USD ve virtuálních aktivech ukradených severokorejskými kyberzločinci. Zabavili jsme 170 domén a serverů spojených s kyberzločinem.“ Operace Riptide sice skončila, ale FBI se bude boji s kybernetickou kriminalitou věnovat i nadále.
Moucka ukradl miliardy
V době konání konference oznámilo americké ministerstvo spravedlnosti, že se kanadský občan Connor Riley Moucka (26 let) z Kitcheneru v Ontariu přiznal k rozsáhlým kyberútokům, při nichž bylo více než 165 organizací okradeno o miliardu citlivých zákaznických záznamů. „Connor Moucka získal extrémně citlivé informace a vydíral oběti,“ uvedl náměstek generálního prokurátora A. Tysen Duva z trestního oddělení ministerstva spravedlnosti. „Moucka byl vypátrán a zatčen pouhých šest měsíců potom, co začal útočit.“ Do USA byl vydán před rokem. Podle soudních dokumentů on a jeho spolupachatelé mezi únorem a říjnem 2024 napadli cloudová úložiště. Odcizili miliardy zákaznických záznamů a obrovské množství informací, včetně bankovních, finančních a mzdových záznamů, registračních čísel protidrogového úřadu, čísel řidičských průkazů, čísel pasů, čísel sociálního zabezpečení a dalších osobních údajů. Poté vydírali oběti a hrozili jim, že jejich soukromá data zveřejnění online. Pachatelé obdrželi výkupné ve výši přes 2,5 mil. USD. Moucka osobně získal nejméně 495 000 USD. Způsobená škoda však byla mnohem větší, přičemž společnosti, které se staly oběťmi, utrpěly skutečné ztráty přesahující 9,5 mil. USD. Toto číslo nezahrnuje ztráty, které utrpěli zákazníci těchto společností, protože celkem se útoky týkaly nejméně 100 milionů osob. Vynesení rozsudku je naplánováno na 27. října a za krádež identity s přitěžujícími okolnostmi hrozí Mouckovi trest odnětí svobody minimálně v délce dvou let a za zbývající body obžaloby maximální trest 30 let vězení. Podle novinových zpráv Moucka, který nedokončil střední školu, žil u svého dědečka v kanadském Ontariu. Jeho matka a nevlastní otec žijí v USA. „Pracoval 30 hodin a pak usnul,“ řekl novinářům Mouckův 75letý dědeček Anthony Przeklasa. Domníval se, že jeho vnuk pracoval jako nezávislý softwarový vývojář.
Na pódiu jako na pranýři
Zástupci společnosti OpenAI se na konferenci Black Hat postavili na pódium, aby rozebrali divokou řetězovou reakci, která umožnila jejím autonomním modelům naplánovat kybernetický útok napříč platformami. Media hovořila o senzační vzpouře agentů AI, které se vymkly lidské kontrole. OpenAI, majitel ChatGPT, neúmyslně provedl kybernetický útok na Hugging Face, komunitní centrum pro umělou inteligenci a strojové učení, poté, co experimentální agenty umělé inteligence prolomily jejich ochranné zábrany. (Více podrobností o útoku najdete n a str. 7.) Toto nebezpečné selhání dokumentuje, jak multiagentní systémy otevírají nové možnosti — a nová rizika. S každým dalším agentem, nástrojem a přístupovým bodem k datům se zvyšuje složitost a s ní i počet potenciálních chyb, vektorů útoků a nejasných rozhodnutí. Klíčová otázka zní: Kolik autonomie můžeme umělé inteligenci dát, aniž ztratíme kontrolu a odpovědnost? /Karel Sedláček/
