AI v kyberbezpečnosti rýchlo pribúda. S ňou však aj potreba kontroly
Je pozitívne, že firmy a organizácie stále intenzívnejšie využívajú umelú inteligenciu aj v oblasti kyberbezpečnosti. Útočníci sú však neraz o krok vpred.
Umelú inteligenciu už v kybernetickej bezpečnosti aktívne využíva 78 percent organizácií, vyplýva z prieskumu SANS Institute. O rok skôr to bola približne polovica. Prieskum zahŕňal 536 IT a bezpečnostných odborníkov.
Zároveň však rastie počet útokov, pri ktorých ju využívajú i útočníci. Viac ako tri štvrtiny respondentov zaznamenalo útok podporovaný AI. Zároveň 95 percent respondentov predpokladá, že kyberzločinci AI už používajú.
AI pritom útočníkom nepomáha iba pri tvorbe škodlivého kódu. Umožňuje existujúce útoky zrýchľovať, personalizovať a škálovať – od prieskumu a phishingu cez sociálne inžinierstvo až po deepfake scenáre či zneužitie kompromitovaných účtov.
AI pomáha obrancom zvládať podobné útoky, no prináša nový problém: potrebu kontrolovať jej výstupy. Časť práce bezpečnostných tímov sa preto presúva na overovanie, opravu a validáciu odporúčaní AI. Dohľad nad AI a jej integráciou navyše pribudol približne tretine respondentov.
Kľúčovou otázkou sa tak stáva dôvera. Organizácie už neriešia iba to, ako AI technicky nasadiť, ale aj to, či dokážu jej rozhodnutia vysvetliť, spätne skontrolovať a určiť zodpovednosť za ne.
Prieskum zároveň upozorňuje na rozdiel medzi tým, ako vedenie vníma riadenie AI rizík, a tým, čo pri každodennej práci vidia bezpečnostné tímy.
Ochrana pritom nemusí stáť iba na špecializovaných AI nástrojoch. Medzi najúčinnejšie opatrenia respondenti zaradili vzdelávanie používateľov aj kontrolu analytikmi. Dôležité zostávajú aj základné princípy kybernetickej bezpečnosti – správa identít, minimálne oprávnenia a ľudský dohľad.
Organizácie by preto mali AI priebežne testovať a merať nielen podľa rýchlosti či efektivity, ale aj podľa presnosti, falošných výsledkov, prehliadnutých hrozieb a chybných odporúčaní. Zároveň potrebujú jasné pravidlá používania AI, evidenciu nástrojov, určenie zodpovednosti, kontrolu prístupu k dátam a auditné záznamy. Súčasťou prípravy musia byť aj scenáre útokov využívajúcich phishing, deepfake, automatizovaný prieskum či samotné AI modely.
