Systemy sztucznej inteligencji wykorzystywane podczas rekrutacji mogą powielać uprzedzenia, analizować zbyt szeroki zakres informacji o kandydatach i prowadzić do dyskryminujących decyzji. Prezes Urzędu Ochrony Danych Osobowych Mirosław Wróblewski zwrócił się do Ministerstwa Rodziny, Pracy i Polityki Społecznej o rozpoczęcie prac nad przepisami, które zapewnią kandydatom oraz pracownikom dodatkową ochronę.
Do Urzędu Ochrony Danych Osobowych dociera coraz więcej informacji o wykorzystywaniu narzędzi opartych na sztucznej inteligencji w procesach rekrutacyjnych. Systemy te mogą służyć m.in. do analizy dokumentów aplikacyjnych, selekcjonowania kandydatów, ich profilowania oraz wspierania decyzji o zaproszeniu na rozmowę kwalifikacyjną lub zatrudnieniu.
Zdaniem prezesa UODO rozwój takich rozwiązań wymaga stworzenia dodatkowych gwarancji prawnych. Narzędzia AI umożliwiają bowiem przetwarzanie danych osobowych na dużą skalę, a niekiedy mogą również wykorzystywać informacje należące do szczególnych kategorii danych, potocznie określanych jako dane wrażliwe.
Algorytmy mogą powielać istniejące uprzedzenia
Jednym z najważniejszych zagrożeń związanych ze stosowaniem sztucznej inteligencji w zatrudnieniu jest możliwość utrwalania nierównego traktowania. Modele AI są trenowane na dużych zbiorach danych, które mogą odzwierciedlać dotychczasowe uprzedzenia i nierówności występujące na rynku pracy.
Jeżeli przykładowo dane historyczne wskazują, że na określone stanowiska częściej zatrudniano osoby należące do konkretnej grupy, system może uznać tę zależność za wzorzec, który powinien być powielany. W rezultacie kandydaci mogą być oceniani nie tylko na podstawie swoich kwalifikacji, lecz również na podstawie pośrednich cech związanych z płcią, wiekiem, pochodzeniem, niepełnosprawnością czy innymi chronionymi przesłankami.
Kodeks pracy ustanawia obowiązek równego traktowania pracowników bez względu m.in. na płeć, wiek, niepełnosprawność, rasę, religię, narodowość, przekonania polityczne, przynależność związkową, pochodzenie etniczne, wyznanie i orientację seksualną.
Prezes UODO wskazuje jednak, że obecne regulacje mogą być niewystarczające wobec możliwości technicznych współczesnych systemów sztucznej inteligencji.
Sztuczna inteligencja może analizować zbyt dużo danych
Problemem jest również zakres informacji wykorzystywanych przez algorytmy. Zgodnie z art. 22¹ Kodeksu pracy pracodawca może żądać od osoby ubiegającej się o zatrudnienie tylko określonych danych, takich jak imię i nazwisko, data urodzenia, dane kontaktowe, wykształcenie, kwalifikacje zawodowe oraz przebieg dotychczasowego zatrudnienia, jeżeli są one niezbędne do wykonywania pracy danego rodzaju.
Narzędzia AI mogą jednak wyciągać wnioski również z informacji, których pracodawca nie powinien uwzględniać podczas rekrutacji. Mogą to być dane pochodzące z mediów społecznościowych, sposób wypowiadania się, zachowanie podczas rozmowy online, mimika, ton głosu, miejsce zamieszkania czy inne pozornie neutralne informacje pozwalające pośrednio określić cechy kandydata.
W praktyce może to prowadzić do sytuacji, w której system podejmuje lub rekomenduje decyzję na podstawie danych wykraczających poza ustawowy katalog informacji, jakich pracodawca może żądać od osoby ubiegającej się o pracę.
Kandydat powinien wiedzieć, dlaczego został odrzucony
Prezes UODO zwraca również uwagę na przewidziane w RODO prawo do niepodlegania decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu danych, jeżeli decyzja ta wywołuje skutki prawne lub w podobny sposób istotnie wpływa na daną osobę.
Odrzucenie kandydatury przez system rekrutacyjny może mieć znaczący wpływ na sytuację zawodową i ekonomiczną człowieka. Dlatego wprowadzenie w prawie krajowym możliwości podejmowania takich decyzji przez algorytmy powinno wiązać się z odpowiednimi zabezpieczeniami.
Osoba oceniana przez system powinna mieć możliwość poznania zasad działania narzędzia, zakwestionowania decyzji oraz uzyskania interwencji człowieka. Konieczne jest także ustalenie, kto odpowiada za przetwarzanie danych i podjęcie ostatecznej decyzji – pracodawca, dostawca systemu czy inny podmiot uczestniczący w procesie rekrutacyjnym.
Systemy rekrutacyjne AI zostały uznane za rozwiązania wysokiego ryzyka
Unijny Akt w sprawie sztucznej inteligencji zalicza narzędzia wykorzystywane w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia do systemów wysokiego ryzyka.
Dotyczy to w szczególności rozwiązań służących do rekrutacji lub wyboru kandydatów, publikowania ukierunkowanych ogłoszeń, analizowania i filtrowania aplikacji oraz oceniania osób podczas rozmów kwalifikacyjnych. Do tej kategorii należą również systemy podejmujące decyzje wpływające na warunki zatrudnienia, awansowanie, rozwiązanie umowy, przydzielanie zadań oraz monitorowanie i ocenę pracowników.
Zgodnie z art. 86 AI Act osoba, na którą wpłynęła decyzja podjęta na podstawie wyników systemu wysokiego ryzyka, może domagać się jasnego i merytorycznego wyjaśnienia roli sztucznej inteligencji w procesie decyzyjnym oraz najważniejszych elementów podjętej decyzji.
Ma to szczególne znaczenie wtedy, gdy rozstrzygnięcie wywołuje skutki prawne lub w podobny sposób znacząco wpływa na prawa podstawowe danej osoby.
Konieczna ocena wpływu na prywatność i prawa podstawowe
Zdaniem prezesa UODO ewentualne przepisy dopuszczające wykorzystywanie systemów AI w zatrudnieniu powinny zostać poprzedzone oceną skutków dla ochrony danych osobowych.
Taka analiza pozwoliłaby określić, jakie informacje będą przetwarzane, w jakich celach będą wykorzystywane, jak długo będą przechowywane oraz jakie zagrożenia dla kandydatów i pracowników może powodować stosowanie algorytmów.
Ocena skutków dla ochrony danych ma również pomóc pracodawcom i dostawcom narzędzi w wykazaniu zgodności przetwarzania danych z RODO. Powinna ona wskazywać, czy przyjmowane rozwiązania przewidują wystarczające zabezpieczenia praw i wolności osób, których informacje są analizowane.
Niezależnie od tego art. 27 AI Act nakłada obowiązek przeprowadzenia oceny wpływu systemu wysokiego ryzyka na prawa podstawowe, w tym prawo do prywatności. Prezes UODO podkreśla, że ocena wynikająca z przepisów dotyczących sztucznej inteligencji ma uzupełniać ocenę skutków dla ochrony danych, a nie ją zastępować.
Człowiek powinien zachować nadzór nad decyzjami algorytmu
Systemy wysokiego ryzyka muszą spełniać wymogi dotyczące m.in. zarządzania ryzykiem, jakości wykorzystywanych danych, dokumentacji technicznej, rejestrowania zdarzeń, przejrzystości, nadzoru człowieka, dokładności oraz cyberbezpieczeństwa.
Osoby korzystające z takich systemów powinny mieć świadomość, że mają do czynienia ze sztuczną inteligencją. Przepisy powinny także precyzyjnie określać cele, dla których narzędzia AI mogą być wykorzystywane, oraz wskazywać podmiot odpowiedzialny za przetwarzanie danych.
Istotnym zabezpieczeniem powinien pozostać rzeczywisty nadzór człowieka. Osoba odpowiedzialna za rekrutację nie może ograniczać się do automatycznego zatwierdzania rekomendacji algorytmu. Powinna posiadać kompetencje i uprawnienia pozwalające na ocenę wyniku, jego zmianę lub odrzucenie.
UODO deklaruje wsparcie przy tworzeniu przepisów
Mirosław Wróblewski skierował do resortu rodziny, pracy i polityki społecznej wniosek o podjęcie prac legislacyjnych, które zapewnią kandydatom oraz pracownikom skuteczną ochronę przed dyskryminacją wynikającą ze stosowania sztucznej inteligencji.
Prezes UODO zadeklarował również eksperckie wsparcie urzędu przy analizowaniu projektowanych rozwiązań pod kątem ich zgodności z RODO.
Nowe regulacje miałyby pogodzić możliwość korzystania przez pracodawców z nowoczesnych technologii z ochroną prywatności, zasadą równego traktowania i prawem kandydatów do poznania rzeczywistych powodów decyzji podejmowanych w procesach rekrutacyjnych.
