Agenci AI nie są rozwiązaniem, które wystarczy wdrożyć i pozostawić bez nadzoru. Jednym z największych zagrożeń związanych z wdrażaniem sztucznej inteligencji w przedsiębiorstwach jest założenie, że uruchomienie systemu oznacza zakończenie prac, a testowanie to jednorazowe działanie, a nie stały element procesu. Takie podejście wynika z braku zrozumienia zasad działania tych systemów – przekonuje Tomasz Olejnik, Area Vice President na Europę Środkowo-Wschodnią i Country Leader Salesforce w Polsce
Firmy, którym zależy na stabilnym i przewidywalnym działaniu agentów AI w dłuższej perspektywie, powinny podjąć cztery działania: oddzielić proces myślenia modelu od wykonywania działań, stopniowo zwiększać poziom autonomii, oprzeć działanie agenta na rzeczywistych zasadach funkcjonowania firmy oraz stale monitorować jego pracę po wdrożeniu.
Agenci AI działają w sposób probabilistyczny. Generują odpowiedzi na podstawie prawdopodobieństwa, że proponowane rozwiązanie jest poprawne, a nie wyłącznie na podstawie sztywno określonych reguł. Odpowiedź udzielona jutro może różnić się od dzisiejszej, a z czasem model może zacząć generować coraz mniej trafne wyniki. Zmieniają się dane, ewoluują zapytania klientów, a nawet niewielkie modyfikacje w innych obszarach działalności firmy mogą zakłócić działanie agenta. Przykładowo agent, który w momencie wdrożenia prawidłowo obsługiwał zwroty pieniędzy, po sześciu miesiącach może po cichu zacząć popełniać błędy. Bez stałego monitorowania nikt nie zauważy problemu.
Oddzielenie myślenia od działania
Model doskonale radzi sobie z analizowaniem historii klienta, rozważaniem dostępnych możliwości i rekomendowaniem kolejnych kroków. Nie powinien jednak samodzielnie zlecać zwrotu pieniędzy ani modyfikować konta. Firmy powinny łączyć modele AI z mechanizmami deterministycznymi, czyli oprogramowaniem biznesowym, które przy każdej operacji egzekwuje obowiązujące zasady, uprawnienia i procedury. Gdy agent proponuje zwrot pieniędzy, oprogramowanie weryfikuje czy jest to działanie zgodne z polityką firmy i czy mieści się w ustalonych limitach, zanim dojdzie do przekazania środków.
W ten sposób powstaje dokumentacja pozwalająca prześledzić cały proces: agent AI zaproponował określone rozwiązanie, a mechanizmy biznesowe zatwierdziły je i zarejestrowały. Klienci, audytorzy i osoby odpowiedzialne za zgodność z przepisami mogą sprawdzić, co się wydarzyło i dlaczego. Dzięki temu proces jest przejrzysty, powtarzalny i godny zaufania.
Stopniowe zwiększanie autonomii
Najlepsze efekty przynosi stopniowe rozszerzanie zakresu samodzielności agentów AI, a nie przyznawanie go od razu w pełnym wymiarze. Nowy agent może początkowo otrzymać ograniczone uprawnienia do wykonywania zadań o niewielkim ryzyku, na przykład przygotowywania odpowiedzi, które następnie zatwierdza człowiek. W miarę zdobywania doświadczenia i potwierdzania skuteczności może przejmować kolejne zadania – najpierw obsługę zwrotów na niewielkie kwoty, a następnie większych transakcji.
Równie istotne jest zobowiązanie agenta do jednoznacznego informowania, że jest systemem AI. Klienci powinni zawsze wiedzieć, z kim lub z czym mają do czynienia.
Oparcie działania agenta na rzeczywistych zasadach funkcjonowania firmy
To reguły biznesowe wyznaczają, co agent może zrobić, a wiedza o działalności firmy pozwala mu zrozumieć, jak powinien postąpić w konkretnej sytuacji. Model uniwersalny, któremu towarzyszy jedynie kilka instrukcji, uzupełnia brakujące informacje ogólnymi założeniami. W rezultacie może udzielać różniących się od siebie odpowiedzi na podobne przypadki.
Agent, którego wiedza uwzględnia rzeczywistą politykę zwrotów, katalog produktów i historię klienta, a także wyjątki – na przykład możliwość wydłużenia terminu zwrotu dla członków programu lojalnościowego – będzie udzielał takiej samej odpowiedzi przy setnym przypadku jak przy pierwszym.
Stałe monitorowanie działania
Testy przeprowadzane przed wdrożeniem pokazują, jak agent radzi sobie ze scenariuszami, które przewidziano na etapie testowania. Nie mówią jednak nic o sytuacjach, które mogą pojawić się kilka miesięcy później, takich jak wprowadzenie nowego produktu, zmiana polityki firmy czy nagły wzrost liczby zapytań określonego rodzaju, których wcześniej nikt nie przewidział.
Ciągłe monitorowanie polega na regularnym analizowaniu rzeczywistych rozmów prowadzonych przez agenta i podejmowanych przez niego decyzji oraz porównywaniu ich z poziomem jakości, jaki osiągał w momencie wdrożenia. Jeśli decyzje dotyczące zwrotów pieniędzy zaczną odbiegać od przyjętych standardów, problem można wykryć, zanim doprowadzi do fali skarg.
Zaufanie trzeba wciąż budować na nowo
Takie mechanizmy zabezpieczające pozwalają firmom działać szybko i jednocześnie zachować pewność, że sytuacja pozostanie pod kontrolą. Nadzór człowieka nad AI oznacza, że to ludzie wyznaczają granice działania agentów, oceniają ich skuteczność i interweniują, gdy coś budzi wątpliwości. Dzięki temu każdą decyzję można prześledzić, wyjaśnić, a w razie potrzeby również cofnąć. Rola człowieka zmienia się w miarę zdobywania zaufania przez agenta, ale nigdy całkowicie nie znika.
Firmy, które poddają agentów AI stałej kontroli, będą w stanie zdobyć na tyle duże zaufanie klientów i organów regulacyjnych, by powierzać im coraz bardziej złożone decyzje. W przeciwieństwie do uprawnień, zaufanie trzeba zdobywać i potwierdzać na nowo – decyzja po decyzji, przy nieustannym monitorowaniu.
