V jednom z testů se podařilo skupině AI botů úspěšně zneužít 8 z 15 dosud neodhalených zranitelností. Nešlo o žádné banální chyby, ale o tzv. zero-day zranitelnosti, tedy bezpečnostní mezery, o kterých jejich vývojáři dosud nevěděli, a tudíž proti nim neexistuje žádná obrana, říká Alexander Bruna, expert na umělou inteligenci a zakladatel společnosti elevaty.ai.
Zatímco v minulosti jejich odhalení vyžadovalo pokročilé lidské dovednosti a měsíce práce, dnes se ukazuje, že výkonná generativní AI je schopna tyto chyby vyhledat, analyzovat a zneužít v řádu hodin.
Test simuloval útok pomocí skupiny specializovaných AI agentů, kteří si mezi sebou rozdělili role, jeden z nich vystupoval jako manažer, další se věnovali průzkumu systémů, hledání slabých míst, návrhu konkrétního útoku a jeho ověření. Pokud jeden směr selhal, manažer přesměroval úsilí jiným směrem. Tento „AI red team" se tak choval jako zkušený tým penetračních testerů, ale mnohem rychleji a bez lidského omezení.
Z hlediska obrany je zásadní, že stejnou techniku je možné využít také na naší straně. Penetrační testování (pentest), tedy simulovaný útok na vlastní systémy s cílem najít slabiny dříve než útočník, bylo dosud náročné na čas i lidské zdroje.
Díky AI se však mění v proces, který může být kontinuální, škálovatelný a plně automatizovaný. Firmy tak mohou využívat AI jako nový bezpečnostní rentgen, nástroj, který dokáže pravidelně a do hloubky testovat systémy, a to bez nutnosti čekat na jednou ročně objednaný audit.
Zároveň ale platí, že AI je nástroj, který nemá přirozeně morální kompas, a stejně dobře poslouží i útočníkům. Riziko tzv. copy-paste útoků narůstá: jakmile se objeví účinný exploit, může být masově nasazený proti tisícům webů během několika hodin. Rychlost reakce se proto stává rozhodujícím faktorem. Okno mezi „zranitelnost byla objevena" a „systém byl opraven" se dramaticky zkracuje, místo měsíců jde dnes často o dny.
Takže tradiční přístup k bezpečnosti je nutné přehodnotit. Nestačí se spoléhat na firewally, antiviry a pravidelné aktualizace. Moderní hrozby vyžadují proaktivní, průběžné testování s využitím stejných nástrojů, které mají k dispozici i útočníci. AI může být v tomto směru zásadním spojencem, pokud ji budeme schopni správně zapojit, řídit a eticky ukotvit.