Niemal 70% przedsiębiorstw na świecie wykorzystuje już sztuczną inteligencję w wielu obszarach działalności lub traktuje ją jako jeden z kluczowych elementów operacyjnych – wynika z badania Emerald Research Group przeprowadzonego na zlecenie Veeam. Jednocześnie aż czterech na pięciu menedżerów uważa, że ich firmy będą gotowe do bezpiecznego rozwijania AI w ciągu najbliższych dwóch lat.
Jednak za deklaracjami często nie stoją konkretne mechanizmy kontrolne. Blisko połowa respondentów przyznała, że przekonanie o gotowości firmy wynika bardziej z intuicji niż z możliwości przedstawienia weryfikowalnych dowodów potwierdzających bezpieczeństwo i zgodność z regulacjami ich środowisk AI.
Rosnąca luka zaufania
Zarządy przedsiębiorstw coraz częściej przekonują się, że wdrożenie AI jest znacznie prostsze niż późniejsze utrzymanie nad nią pełnej kontroli. Dotyczy to szczególnie firm rozwijających autonomiczne agenty AI, które działają z szybkością maszynową i podejmują decyzje na podstawie ogromnych zbiorów danych. W takich warunkach brak widoczności, odpowiedzialności i nadzoru staje się czynnikiem realnego ryzyka biznesowego.
Ponieważ systemy AI w coraz większym stopniu zależą od dostępu do danych, wyzwaniem nie jest już wyłącznie samo wdrożenie sztucznej inteligencji, ale zapewnienie, że dane, na których się opiera, są zaufane, właściwie zarządzane i odporne.
Jak wynika z badania Veeam, ponad połowa firm w ciągu ostatnich 18 miesięcy ograniczyła zakres projektów związanych ze sztuczną inteligencją, 4 na 10 odnotowały opóźnienia, a 28% całkowicie zamknęło wybrane inicjatywy. Co istotne, przyczyny problemów mają głównie charakter operacyjny, a nie techniczny – respondenci wskazywali przede wszystkim na niedobory kompetencji, trudności integracji AI z istniejącymi procesami, niepewność regulacyjną oraz wyzwania związane z jakością danych i możliwością wyjaśnienia działania algorytmów.
Wiele firm bardzo szybko przechodzi od eksperymentów do produkcyjnego wykorzystania sztucznej inteligencji, ale równocześnie nie buduje w tym samym tempie mechanizmów nadzoru, bezpieczeństwa i odpowiedzialności. W efekcie zarządy często nie mają pełnego obrazu rzeczywistego poziomu ryzyka.
Dodatkowym wyzwaniem pozostaje kwestia gotowości do poddania się kontroli przez podmioty zewnętrzne. Chociaż większość przedsiębiorstw deklaruje posiadanie formalnych reguł zarządzania AI, tylko około jedna trzecia byłaby w stanie natychmiast przedstawić pełną dokumentację wymaganą przez regulatora lub audytora. W praktyce oznacza to, że tempo wdrażania AI wyprzedza rozwój procedur zapewniających zgodność i bezpieczeństwo.
Potrzebny jest obiektywny model oceny
W odpowiedzi na wyzwania, z którymi mierzą się przedsiębiorstwa wdrażające sztuczną inteligencję, Veeam Software opracował Data and AI Trust Maturity Model – model opracowany po to, aby pomagać organizacjom oceniać i porównywać ich podejście do zarządzania AI. Jest on przygotowany na podstawie badań Emerald Research Group i zweryfikowany we współpracy z klientami. Umożliwia organizacjom nie tylko ocenę własnego podejścia do AI, ale także porównanie go z praktykami innych firm oraz identyfikację obszarów wymagających wzmocnienia.
Model nie ogranicza się do analizy środowisk AI. Sprawdza również, jak faktycznie działają mechanizmy kontroli, procesy ładu zarządczego oraz codzienne reguły operacyjne. Ocenia dojrzałość organizacji w 12 wymiarach i pokazuje jej rozwój na pięciu etapach – od działań reaktywnych i rozproszonych po zaawansowane, samodoskonalące się przedsiębiorstwa.
Etapy te pokazują, jak firmy przechodzą od doraźnych działań do spójnego, proaktywnego i stale doskonalonego podejścia do zarządzania danymi, sztuczną inteligencją oraz ryzykiem. Im wyższy poziom dojrzałości, tym większa zdolność organizacji do wykazania, że zachowuje ona kontrolę nad środowiskami AI, potrafi jasno określać odpowiedzialność i budować zaufanie do wykorzystywanych rozwiązań.
12 wymiarów modelu obejmuje kluczowe obszary, takie jak kontekstowe rozumienie danych, strategia zarządzania ryzykiem związanym z danymi, zarządzanie tożsamością i dostępem, bezpieczeństwo AI i systemów agentowych, bezpieczeństwo danych, zgodność z regulacjami oraz ochrona prywatności. Lista ta uwzględnia także kopie zapasowe i odzyskiwanie danych, architekturę i mobilność danych, odporność systemów AI i systemów agentowych, a także gotowość podmiotu do rozwijania i wdrażania sztucznej inteligencji.
Łącząc te elementy, model daje pełny obraz tego, jak firma zarządza danymi, bezpieczeństwem i odpornością. Dzięki temu liderzy mogą wskazać luki, wzmocnić mechanizmy kontroli i ustalić priorytety działań potrzebnych do bezpiecznego, odpornego i godnego zaufania skalowania AI.
Od diagnozy do planu działania
Framework będzie wykorzystywany przez specjalistów Veeam do świadczenia usługi Data and AI Trust Maturity Assessment. Jej celem jest skonfrontowanie deklarowanej gotowości przedsiębiorstw z rzeczywistym stanem ich środowiska AI. Efektem przeprowadzanej ewaluacji ma być nie tylko punktowa ocena dojrzałości firm, ale również porównanie wyników z innymi podmiotami oraz wskazanie obszarów wymagających poprawy. Klienci otrzymają także praktyczną mapę działań zwiększających poziom zaufania do AI oraz raporty wspierające zarządy podczas audytów i procesów nadzorczych.
Takie podejście jest szczególnie istotne w czasach, gdy sztuczna inteligencja coraz częściej staje się elementem krytycznych procesów biznesowych. Wraz z rozwojem autonomicznych agentów AI firmy muszą być w stanie nie tylko korzystać z nowych możliwości, ale również rozumieć sposób działania tych systemów, kontrolować ich decyzje oraz móc udowodnić zgodność z wymaganiami regulacyjnymi.
Dojrzałość w obszarze sztucznej inteligencji nie jest już wyłącznie kwestią innowacyjności, ale także zaufania do danych, ładu zarządczego i odporności. W najbliższych latach zdolność do wykazania kontroli nad danymi i środowiskami AI będzie miała kluczowe znaczenie dla tego, jak przedsiębiorstwa będą mogły skalować AI, utrzymywać zgodność z regulacjami oraz budować zaufanie klientów, partnerów i regulatorów.
