Bank inwestuje miliony w budowę modelu ryzyka kredytowego, który z niezwykłą trafnością przewiduje niewypłacalność klientów. Model osiąga znakomite wyniki w testach: rośnie precyzja, poprawia się recall, krzywa ROC pnie się w górę, a zespół data science świętuje sukces. Mimo to po sześciu miesiącach wpływ biznesowy pozostaje znikomy. Straty kredytowe praktycznie się nie zmieniają, czas zatwierdzania wniosków nadal jest długi, zespoły ryzyka wciąż nadpisują rekomendacje modelu, a procesy operacyjne pozostają w dużej mierze nietknięte. Model jest imponujący technicznie, ale sam proces decyzyjny się nie zmienił.
Taka sytuacja jest znacznie częstsza niż wiele organizacji chce przyznać. W różnych branżach firmy tworzą zaawansowane modele predykcyjne, pozostawiając jednocześnie podstawowe mechanizmy podejmowania decyzji bez większych zmian. Predykcja się poprawiła, decyzje nie.
– Ta luka pokazuje fundamentalną zmianę w sposobie myślenia o AI i analityce. Coraz częściej granicą rozwoju nie jest już wydajność modeli, lecz jakość decyzji. Właśnie dlatego rośnie zainteresowanie dziedziną określaną mianem Decision Intelligence. Kluczowe pytanie dla współczesnej sztucznej inteligencji nie brzmi już „Czy potrafimy to przewidzieć?”, lecz „Co powinniśmy z tym zrobić?” – mówi Miłosz Trawczyński, Senior Executive, Consulting & AI Solutions, SAS Polska.
Analiza podstawą zmian
Przez większą część ostatniej dekady dyskusja wokół data science koncentrowała się na predykcji. Organizacje inwestowały w modele zdolne przewidywać odpływ klientów, wykrywać oszustwa, rekomendować produkty czy prognozować popyt. Choć możliwości te były przełomowe, utrwaliły subtelne przekonanie, że lepsze prognozy automatycznie prowadzą do lepszych rezultatów.
– W rzeczywistości predykcje tworzą wartość tylko wtedy, gdy wpływają na decyzje. Model wykrywający podejrzane transakcje niewiele daje, jeśli śledczy nie mogą działać wystarczająco szybko; prognoza odejścia klienta jest mało użyteczna, jeśli zespoły utrzymania klientów nie mają jasnych strategii reakcji; prognoza popytu traci sens, jeśli łańcuch dostaw nie potrafi się dostosować na czas. Predykcja odpowiada na pytanie statystyczne, podczas gdy podejmowanie decyzji na pytania operacyjne – dodaje Miłosz Trawczyński.
Skąd się bierze decyzja
Aby zrozumieć, dlaczego predykcje często nie przekładają się na wyniki, warto przyjrzeć się strukturze rzeczywistych procesów decyzyjnych. Większość decyzji organizacyjnych obejmuje wiele warstw: polityki, regulacje, nadzór ludzki, ograniczenia operacyjne i sprzeczne cele. Nawet pozornie prosta decyzja, jak zatwierdzenie wniosku kredytowego, zależy nie tylko od wyniku modelu, lecz także od wymogów regulacyjnych, apetytu na ryzyko, polityki cenowej, kwestii równości traktowania czy zdolności operacyjnych. Między wynikiem modelu a działaniem często pojawiają się dodatkowe reguły, progi i ręczne przeglądy. Takie środowisko tworzy „lukę decyzyjną”, czyli dystans między wnioskiem analitycznym a wykonaniem operacyjnym. Jej zamknięcie wymaga czegoś więcej niż lepszych modeli: potrzebna jest integracja analityki bezpośrednio z procesami decyzyjnymi. Innymi słowy, AI musi przejść od systemów predykcyjnych do systemów decyzyjnych. Predykcja mówi nam, co może się wydarzyć; inteligencja decyzyjna określa, co należy zrobić dalej.
Pomocnym sposobem zrozumienia tej zmiany jest koncepcja „stosów decyzyjnych” (Decision Stack). U podstaw znajduje się warstwa danych, takich jak sygnały, zdarzenia i wzorce zachowań gromadzone w systemach. Nad nią znajdują się modele, które przekształcają dane w prognozy lub klasyfikacje. Kolejną warstwę stanowi logika decyzyjna: polityki, reguły, ograniczenia i mechanizmy optymalizacyjne przekładające prognozy na działania. Następnie pojawia się orkiestracja operacyjna, gdzie decyzje są osadzane w procesach, interakcjach z klientem i systemach automatycznych. Na szczycie znajduje się uczenie i sprzężenie zwrotne, czyli monitorowanie wyników i wykorzystywanie ich do doskonalenia modeli oraz strategii decyzyjnych. Wiele organizacji inwestuje głównie w warstwę modeli, pozostawiając logikę decyzyjną i orkiestrację w dużej mierze manualnymi. Decision Intelligence koncentruje się na całym stosie, przekształcając AI z narzędzia diagnostycznego w zdolność operacyjną.
– Różnicę tę dobrze ilustruje rozwój systemów wykrywania oszustw. Wczesne rozwiązania skupiały się na identyfikacji podejrzanych transakcji i generowaniu alertów analizowanych ręcznie. Wraz ze wzrostem wolumenu transakcji podejście to osiągnęło granice wydajności, a analitycy zostali zalani fałszywymi alarmami. Problemem przestała być sama dokładność wykrywania, stała się nim priorytetyzacja decyzji. Nowoczesne platformy łączą modele predykcyjne z silnikami decyzyjnymi, które określają reakcję na każdy sygnał: część transakcji jest blokowana natychmiast, inne wymagają dodatkowej weryfikacji, jeszcze inne trafiają do analizy w zależności od przewidywanej straty lub wpływu na klienta. System nie tylko przewiduje oszustwa, lecz nimi zarządza. Podobna transformacja zachodzi w marketingu, ryzyku kredytowym, zarządzaniu łańcuchem dostaw czy ochronie zdrowia. AI przechodzi od izolowanych modeli do zintegrowanych platform decyzyjnych – mówi Miłosz Trawczyński.
Wraz ze wzrostem automatyzacji decyzji rośnie znaczenie ładu korporacyjnego (governance). Gdy AI wpływa na decyzje wysokiej wagi – kredytowe, ubezpieczeniowe czy medyczne – organizacje muszą zapewnić ich przejrzystość, uczciwość i rozliczalność. Decision Intelligence wprowadza nowe wyzwania, ponieważ decyzje powstają w wyniku interakcji wielu elementów: modeli, reguł, algorytmów optymalizacyjnych i procesów operacyjnych. Zrozumienie, jak zapadła decyzja, wymaga wglądu w cały stos. Dlatego rośnie znaczenie takich obszarów jak nadzór nad modelami, audyty AI i transparentność decyzji. Organizacje muszą przejść od zarządzania pojedynczymi modelami do zarządzania całymi systemami decyzyjnymi. Regulacje już podążają w tym kierunku. Przykładem jest europejski AI Act, który kładzie nacisk na zarządzanie ryzykiem i odpowiedzialność za decyzje wspierane przez AI.
– Największą wartość z AI czerpią niekoniecznie firmy z najbardziej zaawansowanymi modelami, lecz te, które przeprojektowują sposób podejmowania decyzji i wbudowują inteligencję w procesy operacyjne. Zamykają one lukę między wnioskiem a działaniem, tworząc systemy, w których dane, modele, polityki i procesy działają jako zintegrowana całość – dodaje Miłosz Trawczyński.
