Organizacje szeroko wykorzystujące sztuczną inteligencję w cyberbezpieczeństwie potrafią średnio o około 80 dni szybciej usunąć cyberprzestępców ze swojej infrastruktury po skutecznym naruszeniu zabezpieczeń. Przekłada się to na ograniczenie przeciętnego kosztu cyberataku o 1,9 mln dolarów.
Już 77 proc. firm deklaruje wykorzystywanie AI do ochrony przed cyberzagrożeniami, a 88 proc. zespołów cyberbezpieczeństwa inwestuje w agentów AI. Pomimo rosnącej roli sztucznej inteligencji 54 proc. organizacji nadal wskazuje niedobór wykwalifikowanych specjalistów jako jedną z głównych barier wdrażania tej technologii.
Takie wnioski płyną z raportu „Empowering Defenders: AI for Cybersecurity”, opracowanego przez World Economic Forum we współpracy z KPMG.
AI zmienia zasady cyberochrony
Rozwój sztucznej inteligencji zmienia sposób, w jaki organizacje chronią swoje środowiska cyfrowe. AI może wspierać praktycznie cały cykl cyberbezpieczeństwa – od identyfikacji zagrożeń i zapobiegania incydentom, przez ich wykrywanie oraz analizę, aż po reagowanie i przywracanie ciągłości działania.
Rosnąca liczba i złożoność cyberataków sprawiają, że tradycyjne metody ochrony coraz częściej okazują się niewystarczające. Cyberprzestępcy wykorzystują sztuczną inteligencję m.in. do automatyzacji rozpoznania, wyszukiwania podatności, przygotowywania kampanii phishingowych oraz tworzenia i modyfikowania złośliwego oprogramowania.
W odpowiedzi organizacje również sięgają po rozwiązania oparte na AI. Pozwalają one szybciej analizować ogromne ilości danych, skuteczniej identyfikować ryzyka, wykrywać nietypowe zachowania użytkowników i systemów oraz automatyzować część powtarzalnych zadań wykonywanych dotychczas przez analityków.
AI pomaga również ograniczać skutki narastających problemów kadrowych i operacyjnych. Zespoły bezpieczeństwa mierzą się z rosnącą liczbą alertów, coraz bardziej złożonym środowiskiem informatycznym oraz niedoborem specjalistów. Automatyzacja może odciążyć pracowników i umożliwić im skoncentrowanie się na działaniach wymagających eksperckiej wiedzy, doświadczenia i oceny kontekstu.
– Paradoks, z którym mierzy się dziś każdy CISO, polega na tym, że AI jednocześnie rozwiązuje problem przeciążenia zespołów bezpieczeństwa i tworzy nowe wektory ryzyka, których jeszcze rok temu nie było. Organizacje, które już dziś inwestują w odpowiedzialne wdrożenie AI, zyskują realną przewagę: szybciej wykrywają zagrożenia, sprawniej reagują na incydenty i skuteczniej wykorzystują ograniczone zasoby zespołów bezpieczeństwa – mówi Michał Kurek, Partner w Dziale Advisory, Szef Zespołu Cyberbezpieczeństwa w KPMG w Polsce i Europie Środkowo-Wschodniej.
Jak podkreśla, sama technologia nie wystarczy do zbudowania skutecznego systemu ochrony.
– Kluczem do sukcesu jest równowaga między automatyzacją a ludzkim osądem. Firmy, które potrafią połączyć możliwości AI z doświadczeniem ekspertów oraz jasno zdefiniowanymi mechanizmami kontroli, budują odporność, która wytrzymuje próbę czasu. To właśnie ta równowaga, a nie sama skala wdrożeń, decyduje dziś o realnym poziomie cyberbezpieczeństwa organizacji – dodaje Michał Kurek.
Firmy inwestują w agentów AI
Organizacje stopniowo przechodzą od wykorzystywania AI jako narzędzia wspierającego analityków do wdrażania agentów AI zdolnych do samodzielnego wykonywania coraz bardziej złożonych zadań.
Z raportu WEF i KPMG wynika, że już 88 proc. przedsiębiorstw inwestuje w agentów AI. Jednocześnie 92 proc. liderów technologicznych uważa, że umiejętność zarządzania takimi agentami stanie się w ciągu najbliższych pięciu lat jedną z kluczowych kompetencji specjalistów zajmujących się cyberbezpieczeństwem.
Agenci mogą m.in. analizować alerty, łączyć informacje pochodzące z różnych systemów, ustalać priorytety incydentów oraz rekomendować działania naprawcze. Bardziej zaawansowane rozwiązania są również w stanie wykonywać określone operacje bez bezpośredniego udziału człowieka.
Wraz ze wzrostem autonomii systemów rośnie jednak znaczenie odpowiedniego modelu nadzoru.
Większa autonomia AI wymaga większej kontroli
Zakres samodzielności sztucznej inteligencji powinien zależeć od poziomu ryzyka związanego z wykonywanym zadaniem. AI może pełnić rolę narzędzia wspierającego człowieka, przedstawiać rekomendacje wymagające zatwierdzenia albo samodzielnie wykonywać odwracalne operacje pod bieżącym nadzorem.
W wybranych przypadkach systemy mogą działać bardziej autonomicznie, ale powinny być objęte mechanizmami kontroli, monitorowania i rozliczalności. W obszarach wysokiego ryzyka decyzje, które mogą powodować trwałe konsekwencje dla organizacji, jej klientów lub infrastruktury, powinny nadal pozostawać pod pełną kontrolą człowieka.
Dotyczy to m.in. działań prowadzących do trwałego usunięcia danych, blokowania kluczowych usług, odcinania części infrastruktury lub podejmowania decyzji mogących wpływać na ciągłość funkcjonowania przedsiębiorstwa.
Organizacje powinny również jasno określić, kto ponosi odpowiedzialność za działania podejmowane przez agentów AI, w jaki sposób są one dokumentowane oraz kiedy człowiek powinien przejąć kontrolę nad procesem.
Sukces wdrożenia AI zależy od gotowości organizacji
Skuteczne wykorzystanie sztucznej inteligencji w cyberbezpieczeństwie wymaga odpowiedniego przygotowania organizacji. Punktem wyjścia powinno być określenie celów biznesowych wdrożenia oraz problemów, które AI ma pomóc rozwiązać.
Konieczna jest także ocena gotowości procesów, jakości danych, infrastruktury technologicznej i kompetencji pracowników. Rozwiązania powinny być najpierw testowane w ramach pilotaży, a dopiero później wdrażane na szeroką skalę.
Znaczenie ma również budowanie zaufania do technologii przy zachowaniu świadomości jej ograniczeń. Modele AI mogą popełniać błędy, działać na podstawie niepełnych danych albo generować rekomendacje nieadekwatne do szerszego kontekstu biznesowego.
Nadmierne poleganie na automatycznych decyzjach może prowadzić do stopniowej utraty kompetencji przez zespoły bezpieczeństwa i stworzyć fałszywe poczucie ochrony. Z tego powodu organizacje powinny rozwijać procedury awaryjne oraz regularnie testować scenariusze działania na wypadek błędów lub niedostępności systemów AI.
Brak specjalistów pozostaje istotną barierą
Chociaż AI może częściowo zmniejszyć obciążenie pracowników i zautomatyzować powtarzalne czynności, niedobór wykwalifikowanych specjalistów pozostaje jednym z największych wyzwań. Z raportu wynika, że wskazuje na niego 54 proc. organizacji.
Wdrażanie sztucznej inteligencji wymaga bowiem nie tylko kompetencji technicznych, lecz także wiedzy z zakresu zarządzania ryzykiem, ochrony danych, zgodności regulacyjnej oraz nadzoru nad modelami i agentami AI.
Pracownicy muszą umieć ocenić jakość rekomendacji generowanych przez system, rozpoznawać jego ograniczenia oraz przejmować kontrolę w sytuacjach, w których automatyczne działanie mogłoby prowadzić do niepożądanych skutków.
AI może pomóc w realizacji wymogów NIS2 i DORA
Sztuczna inteligencja staje się także narzędziem wspierającym organizacje w spełnianiu rosnących wymagań regulacyjnych, w tym wynikających z dyrektywy NIS2 oraz rozporządzenia DORA.
Automatyzacja monitorowania systemów, dokumentowania zdarzeń i reagowania na incydenty może zwiększyć efektywność działań bez proporcjonalnego wzrostu kosztów operacyjnych. AI może również wspierać tworzenie raportów, analizowanie luk w zabezpieczeniach oraz gromadzenie informacji potrzebnych do wykazania zgodności z przepisami.
Odpowiedzialność za zgodność i podejmowane decyzje nadal spoczywa jednak na organizacji. Zastosowanie AI nie zwalnia jej z obowiązku zapewnienia właściwego nadzoru, kontroli ryzyka i bezpieczeństwa wykorzystywanych rozwiązań.
O raporcie
Raport „Empowering Defenders: AI for Cybersecurity” został opracowany w ramach inicjatywy Cyber Frontiers prowadzonej przez World Economic Forum we współpracy z KPMG.
Publikacja analizuje zastosowanie sztucznej inteligencji w całym cyklu cyberbezpieczeństwa organizacji. Wykorzystano w niej studia przypadków partnerów Światowego Forum Ekonomicznego oraz wnioski z warsztatów z udziałem przedstawicieli ponad 84 organizacji reprezentujących 15 sektorów gospodarki.
