Tempo wdrażania sztucznej inteligencji zaczyna wyprzedzać zdolność firm do sprawowania nad nią skutecznej kontroli – wynika z badania Red Hat. Choć 92% przedsiębiorstw deklaruje przynajmniej częściową wiedzę o tym, gdzie przechowywane i przetwarzane są dane wykorzystywane przez systemy AI, tylko 49% uważa, że ma nad nimi pełną kontrolę. Jednocześnie zaledwie 31% podmiotów wdrożyło dojrzałe mechanizmy nadzoru nad agentową AI, a wśród organizacji posiadających strategię wyjścia 39% przewiduje, że zmiana dostawcy modeli lub platform AI miałaby umiarkowany albo znaczący wpływ na ciągłość działania biznesu.
W pierwszej fazie rozwoju sztucznej inteligencji przedsiębiorstwa koncentrowały się przede wszystkim na eksperymentach i szybkim wdrażaniu nowych narzędzi. Dziś punkt ciężkości wyraźnie się przesuwa. Coraz większego znaczenia nabierają pytania o odporność operacyjną, kontrolę nad danymi oraz zdolność do nadzorowania autonomicznych systemów. W praktyce można zaobserwować przejście od etapu implementowania AI do budowania zasad jej bezpiecznego i przewidywanego funkcjonowania w przedsiębiorstwach.
Dostawcy AI a odporność operacyjna firm
Jednym z pierwszych testów dojrzałości organizacyjnej jest zdolność do zmiany dostawcy modeli lub platform AI bez zakłócania działalności firmy. Badanie Red Hat wskazuje, że 63% przedsiębiorstw posiada formalną strategię wyjścia, która ma umożliwić taką migrację. Sam fakt opracowania planu nie oznacza jednak, że organizacje są przygotowane na taki scenariusz. Wśród firm posiadających ”exit strategy”, 29% podmiotów przewiduje umiarkowany, a kolejne 10% znaczący wpływ ewentualnej zmiany dostawcy na ciągłość działania biznesu. Formalna gotowość nie zawsze przekłada się na rzeczywistą odporność operacyjną.
Rozdźwięk między deklaracjami a stanem faktycznym widać również wśród organizacji, które jeszcze nie zaczęły prac nad opracowaniem strategii wyjścia. Trzy na dziesięć badanych przez Red Hat przedsiębiorstw nie ma planu na wypadek problemów z dostawcami AI. W 14% przypadków respondenci zakładają, że ewentualna migracja byłaby stosunkowo łatwa, ale za tym przeświadczeniem może kryć się ograniczona skala wdrożeń w organizacji, a nie realna odporność infrastruktury. Tylko 4% ankietowanych, którzy nie przygotowali odpowiedniej strategii, uważa, że ewentualna zmiana dostawcy miałaby znaczący wpływ na ciągłość ich działania.
Rosnące uzależnienie od dostawców modeli AI zaczyna przypominać wcześniejsze doświadczenia rynku związane z uzależnieniem od pojedynczych platform chmurowych lub zamkniętych ekosystemów oprogramowania. Firmy przekonują się, że zmiana dostawcy usługi to nie tylko kwestia podpisania nowej umowy, ale często także przebudowy procesów, konieczności wykonania nowych integracji oraz przepisania polityki bezpieczeństwa. W przypadku sztucznej inteligencji stawka jest jeszcze wyższa i obejmuje kwestie związane z jakością udzielanych przez modele odpowiedzi, sposobem ich działania oraz kompatybilnością z własnymi zbiorami danych. Wszystkie te elementy sprawiają, że migracja może być znacznie bardziej skomplikowana niż w klasycznych środowiskach IT.
Nadzór nad agentową AI
Potrzebę budowania kontroli nad AI jeszcze wyraźniej pokazuje dynamiczny rozwój agentowej sztucznej inteligencji, czyli systemów zdolnych do autonomicznego wykonywania działań bez interakcji z użytkownikiem. Takie rozwiązania potrafią nie tylko odpowiadać na pytania, ale również inicjować procesy, analizować dane czy podejmować określone decyzje operacyjne. Zwiększa to efektywność firm, ale podnosi też poziom ryzyka i znaczenie skutecznego nadzoru nad sposobem działania agentów AI.
Badanie Red Hat wykazało, że 64% firm wprowadziło pewien poziom monitoringu dla agentowej sztucznej inteligencji, jednak jedynie 31% określa stosowane mechanizmy zarządzania jako silne i dojrzałe. Kolejne 32% przyznaje, że ma wprawdzie określone zasady, ale nadal widzi w nich istotne luki wymagające uzupełnienia. Co więcej, jedna czwarta podmiotów wdrożyła jedynie podstawowe reguły nadzoru lub nie posiada ich wcale.
Wyniki te wskazują, że podobnie jak w przypadku strategii wyjścia, wiele organizacji rozpoczęło budowę mechanizmów kontroli, lecz nie osiągnęło jeszcze poziomu, który pozwala bezpiecznie skalować wykorzystanie autonomicznych systemów. Firmy coraz lepiej rozumieją, że sprawowanie nadzoru nad środowiskami AI nie sprowadza się już wyłącznie do wdrożenia polityki zgodności czy ochrony danych, ale obejmuje również kontrolę nad sposobem działania modeli, zakresem ich autonomii oraz możliwością szybkiego reagowania na błędy. Dlatego konieczne jest budowanie procesów przypominających te znane z dziedziny cyberbezpieczeństwa lub zarządzania ryzykiem operacyjnym. Ważnym czynnikiem jest tu czas, jako że rozwój AI postępuje znacznie szybciej niż tradycyjnych środowisk IT dla firm.
Kontrola nad danymi
Rosnąca autonomia modeli sprawia, że skuteczny nadzór nad sztuczną inteligencją nie może ograniczać się wyłącznie do monitorowania sposobu podejmowania decyzji. Równie istotne staje się zrozumienie, jakie dane zasilają modele, gdzie są przechowywane oraz kto ma do nich dostęp. Aż 92% podmiotów w badaniu Red Hat deklaruje, że posiada przynajmniej częściową wiedzę o tym, gdzie dane są przechowywane, przetwarzane i jakie są reguły dostępu do nich. Jednocześnie tylko 49% respondentów ma pełną kontrolę i zagwarantowaną widzialność w tym zakresie. Pozostałe firmy przyznają, że nadal istnieją obszary wymagające poprawy lub dalszego uporządkowania.
W środowiskach AI samo ustalenie, gdzie znajdują się dane, nie wystarcza. Firmy muszą rozumieć również sposób ich wykorzystywania przez modele, przepływy informacji pomiędzy poszczególnymi komponentami AI oraz możliwość zachowania kontroli nad tymi procesami niezależnie od wykorzystywanej platformy czy dostawcy. Dopiero połączenie tych elementów pozwala budować systemy AI, które są elastyczne, bezpieczne i odporne na zmiany.
Od eksperymentów do odporności operacyjnej
Z badania Red Hat wynika, że rynek wchodzi obecnie w nową fazę rozwoju sztucznej inteligencji. Pierwszy etap był skoncentrowany głównie na eksperymentach i szybkim wdrażaniu nowych narzędzi, często bez głębszej analizy długofalowych konsekwencji. Obecnie firmy coraz częściej zaczynają zadawać pytania dotyczące odporności operacyjnej, kontroli nad dostawcami oraz możliwości sprawowania kontroli nad autonomicznymi systemami.
Charakterystyczne jest to, że we wszystkich analizowanych obszarach pojawia się ten sam schemat. Firmy rozpoczynają budowę mechanizmów nadzoru, jednak w wielu przypadkach pozostają one na poziomie częściowej gotowości. Oznacza to, że rozwój sztucznej inteligencji coraz częściej wyprzedza rozwój procesów organizacyjnych potrzebnych do jej bezpiecznego wykorzystania.
To ważna zmiana perspektywy. Jeszcze niedawno przewagę konkurencyjną budował przede wszystkim dostęp do najbardziej zaawansowanych modeli. Dzisiaj coraz większego znaczenia nabiera zdolność przedsiębiorstw do utrzymania kontroli nad sposobem ich działania, danymi oraz infrastrukturą, na której zostały wdrożone. Wraz z tym, jak AI staje się elementem krytycznych procesów biznesowych, właśnie te kompetencje będą decydowały o możliwości jej bezpiecznego skalowania i długofalowego wykorzystania.
Informacje o badaniu
Badanie zostało przeprowadzone na zlecenie Red Hat przez firmę badawczą Censuswide wśród 500 osób odpowiedzialnych za decyzje IT w firmach działających na rynkach europejskich. Uczestniczyło w nim po 100 respondentów z Wielkiej Brytanii, Holandii, Francji, Niemiec oraz Włoch. Ankieta koncentrowała się na zagadnieniach związanych z wdrażaniem mechanizmów sztucznej inteligencji, zapewnianiem nadzoru nad nimi, kontroli nad danymi oraz podejściem przedsiębiorstw do rozwiązań bazujących na otwartym źródle i cyfrowej suwerenności.
Autor: Lubomir Stojek, Country Manager Red Hat w Polsce
