Dlaczego sztuczna inteligencja podejmuje określone decyzje?

0

Aby móc naprawić pojazd, mechanicy samochodowi muszą zajrzeć pod maskę. Podobnie analitycy, aby móc wykorzystać potencjał algorytmów sztucznej inteligencji, muszą mieć możliwość sprawdzenia, w jaki sposób one działają i móc dostosowywać je do potrzeb organizacji. Nowe funkcjonalności platformy SAS Viya pozwalają odkrywać zawiłości analityki i sprawiają, że prezentowane wyniki są bardziej przejrzyste i zrozumiałe dla większej liczby osób w organizacji.

(8 sierpnia 2018 r.) – Rozwiązania z zakresu sztucznej inteligencji coraz śmielej wkraczają do biznesu i życia codziennego. Potwierdzają to dane IDC, według których globalne nakłady na systemy kognitywne i AI sięgną do końca tego roku 19,1 miliarda dolarów. Potencjał technologiczny sztucznej inteligencji jest ogromny, jednak dla wielu organizacji sposób jej działania to wciąż czarna magia.

Dlaczego AI odrzuciło Twój wniosek kredytowy?

Systemy analityczne wykorzystujące sztuczną inteligencję dają firmom możliwość tworzenia scenariuszy biznesowych, na podstawie których mogą one budować swoją strategię. Jednak, aby przewidywania te były w pełni wartościowe, niezwykle istotne jest zrozumienie, w jaki sposób system doszedł do konkretnych wniosków. Specjaliści SAS zwracają uwagę na fakt, że system może przedstawić błędne wnioski np. w sytuacji, gdy bazował na niewłaściwych, niekompletnych lub błędnych danych. Jeżeli instytucja finansowa wykorzystuje narzędzia wyposażone w algorytmy sztucznej inteligencji w procesie scoringu kredytowego, bardzo ważne jest zrozumienie dlaczego system rekomenduje zatwierdzenie lub odrzucenie konkretnego wniosku o kredyt. Podobnie w przypadku firmy HR-owej, gdzie system AI wspiera konsultantów w procesie selekcji Curriculum Vitae. Jeżeli na skutek błędu odrzucone zostanie CV perspektywicznego pracownika, może to wydłużyć proces poszukiwania odpowiedniej osoby na dane stanowisko. Możliwość kontroli i weryfikacji modeli analitycznych pozwala ustrzec się przed taką sytuacją.

Obecnie większość organizacji wykorzystuje deep learning i przetwarzanie języka naturalnego, co znacznie ułatwia rozwiązywanie problemów biznesowych. Niestety modele te stają się coraz bardziej skomplikowane. Niezwykle ważne jest, aby biznes ufał wykorzystywanym narzędziom analitycznym. Nowe funkcjonalności platformy SAS Viya umożliwiającą wgląd w modele analityczne i określenie, w jaki sposób one działają oraz ocenę ich skuteczności – mówi David Tareen, Global Product Marketing Manager ds. Sztucznej Inteligencji w SAS.

Czytaj również:  Kryzys w Turcji wpływa na rynek walutowy

Bezpieczeństwo informacji w systemach AI