Czy AI w rekrutacji może dyskryminować kandydatów?

Tak. Systemy AI trenowane na historycznych danych mogą powielać uprzedzenia rynku pracy i dyskryminować kandydatów na podstawie płci, wieku, pochodzenia czy innych chronionych cech, nawet jeśli algorytm nie otrzymał bezpośrednio takich informacji.

Jakie dane może analizować AI podczas rekrutacji?

Algorytmy mogą wyciągać wnioski z mediów społecznościowych, sposobu wypowiadania się, mimiki, tonu głosu, miejsca zamieszkania i innych pozornie neutralnych informacji, podczas gdy pracodawca może żądać tylko imienia, nazwiska, daty urodzenia, danych kontaktowych, wykształcenia i doświadczenia.

Co mówi AI Act o systemach rekrutacyjnych?

Unijny AI Act zalicza narzędzia do rekrutacji, selekcji kandydatów i oceny podczas rozmów do systemów wysokiego ryzyka, które muszą spełniać wymogi przejrzystości, nadzoru człowieka, dokumentacji i oceny wpływu na prawa podstawowe.

Jakie prawa ma kandydat odrzucony przez algorytm?

Kandydat ma prawo do poznania zasad działania narzędzia, zakwestionowania decyzji, uzyskania interwencji człowieka oraz jasnego wyjaśnienia roli AI w procesie decyzyjnym, szczególnie gdy decyzja wpływa na jego sytuację zawodową i ekonomiczną.

Co chce zmienić UODO w przepisach dotyczących AI w zatrudnieniu?

UODO postuluje wprowadzenie ocen skutków dla ochrony danych, określenie celów wykorzystania algorytmów, wskazanie podmiotu odpowiedzialnego za przetwarzanie danych oraz zapewnienie rzeczywistego nadzoru człowieka nad decyzjami rekrutacyjnymi.

AI w rekrutacji dyskryminuje? UODO chce nowych przepisów

Prezes UODO alarmuje: systemy AI w rekrutacji mogą powielać uprzedzenia i dyskryminować kandydatów.

Systemy sztucznej inteligencji wykorzystywane w procesach rekrutacyjnych mogą powielać uprzedzenia i dyskryminować kandydatów na podstawie cech chronionych prawem, takich jak płeć, wiek, pochodzenie czy niepełnosprawność. Problem jest na tyle poważny, że prezes Urzędu Ochrony Danych Osobowych Mirosław Wróblewski zwrócił się do Ministerstwa Rodziny, Pracy i Polityki Społecznej o rozpoczęcie prac nad nowymi przepisami, które zapewnią dodatkową ochronę kandydatom i pracownikom.

Jak AI powielają uprzedzenia na rynku pracy?

Urzędy ochrony danych coraz częściej otrzymują informacje o wykorzystywaniu narzędzi AI w rekrutacji. Systemy te analizują dokumenty aplikacyjne, selekcjonują kandydatów, ich profilują i wspierają decyzje o zaproszeniu na rozmowę lub zatrudnieniu. Problem polega na tym, że algorytmy są trenowane na dużych zbiorach danych historycznych, które odzwierciedlają dotychczasowe nierówności na rynku pracy.

Jeśli dane wskazują, że na określone stanowiska częściej zatrudniano osoby z konkretnej grupy demograficznej, system może uznać tę zależność za wzorzec godny powielania. W rezultacie kandydaci są oceniani nie tylko na podstawie kwalifikacji, lecz także pośrednich cech związanych z płcią, wiekiem, pochodzeniem, niepełnosprawnością czy innymi cechami chronionymi Kodeksem pracy.

Jakie dane analizują algorytmy rekrutacyjne?

Jednym z kluczowych zagrożeń jest zakres informacji wykorzystywanych przez systemy AI. Kodeks pracy wyraźnie określa, jakie dane pracodawca może żądać od kandydata: imię i nazwisko, datę urodzenia, dane kontaktowe, wykształcenie, kwalifikacje zawodowe oraz przebieg dotychczasowego zatrudnienia — ale tylko jeśli są niezbędne do wykonywania pracy.

Narzędzia AI jednak nie ograniczają się do tych informacji. Mogą wyciągać wnioski z:

postów i profili na mediach społecznościowych
sposobu wypowiadania się kandydata
zachowania podczas rozmowy online
mimiki i ekspresji twarzy
tonu głosu
miejsca zamieszkania
innych pozornie neutralnych danych

W praktyce oznacza to, że system może podjąć lub zarekomendować decyzję na podstawie informacji, które pracodawca nie powinien w ogóle uwzględniać. Dane pochodzące z mediów społecznościowych mogą pośrednio ujawnić religię, orientację seksualną, poglądy polityczne czy stan zdrowia kandydata — informacje, które są zakazane w procesie rekrutacyjnym.

Unijny AI Act zalicza rekrutację do systemów wysokiego ryzyka

Unijny Akt w sprawie sztucznej inteligencji (AI Act) jednoznacznie klasyfikuje narzędzia wykorzystywane w zatrudnieniu jako systemy wysokiego ryzyka. Dotyczy to rozwiązań służących do:

rekrutacji i selekcji kandydatów
publikowania ukierunkowanych ogłoszeń
analizowania i filtrowania aplikacji
oceniania osób podczas rozmów kwalifikacyjnych
podejmowania decyzji wpływających na warunki zatrudnienia
przydzielania zadań
monitorowania i oceny pracowników

Systemy wysokiego ryzyka muszą spełniać wymogi dotyczące zarządzania ryzykiem, jakości danych, dokumentacji technicznej, przejrzystości i nadzoru człowieka. Zgodnie z artykułem 86 AI Act osoba, na którą wpłynęła decyzja podjęta przez algorytm, ma prawo domagać się jasnego wyjaśnienia roli AI w procesie decyzyjnym i najważniejszych elementów decyzji.

Co chce zmienić UODO?

Prezes UODO Mirosław Wróblewski wskazuje, że obecne regulacje mogą być niewystarczające wobec możliwości technicznych współczesnych systemów AI. Jego postulaty obejmują:

Oceny skutków dla ochrony danych

Przed wdrożeniem systemu AI w rekrutacji konieczne byłoby przeprowadzenie analizy, która określiłaby:

jakie informacje będą przetwarzane
w jakich celach będą wykorzystywane
jak długo będą przechowywane
jakie zagrożenia niesie stosowanie algorytmu

Taka ocena pomogłaby pracodawcom i dostawcom narzędzi wykazać zgodność z RODO i wskazać, czy rozwiązanie przewiduje wystarczające zabezpieczenia praw kandydatów.

Przejrzystość i prawo do wyjaśnienia

Osoba oceniana przez system powinna mieć możliwość:

poznania zasad działania narzędzia
zakwestionowania decyzji
uzyskania interwencji człowieka
otrzymania jasnego wyjaśnienia roli AI

Odrzucenie kandydatury przez algorytm może mieć znaczący wpływ na sytuację zawodową i ekonomiczną człowieka, dlatego decyzje powinny być transparentne i możliwe do kwestionowania.

Rzeczywisty nadzór człowieka

Osoba odpowiedzialna za rekrutację nie może ograniczać się do automatycznego zatwierdzania rekomendacji algorytmu. Powinna posiadać kompetencje i uprawnienia pozwalające na ocenę wyniku, jego zmianę lub odrzucenie. Nadzór człowieka musi być rzeczywisty, a nie tylko formalny.

Jasne określenie odpowiedzialności

Niezbędne jest precyzyjne wskazanie, kto odpowiada za przetwarzanie danych i podjęcie ostatecznej decyzji — pracodawca, dostawca systemu czy inny podmiot uczestniczący w procesie rekrutacyjnym.

Co to oznacza dla pracodawców i kandydatów?

Przypomnienie: Kodeks pracy już teraz zakazuje dyskryminacji ze względu na płeć, wiek, niepełnosprawność, rasę, religię, narodowość, przekonania polityczne, przynależność związkową, pochodzenie etniczne, wyznanie i orientację seksualną. Jednak automatyzacja procesów rekrutacyjnych stwarza nowe wyzwania, bo algorytmy mogą dyskryminować pośrednio, poprzez analizę danych, które pracodawca nie miał zamiaru uwzględniać.

Jeśli postulaty UODO zostaną wcielone w życie, pracodawcy będą musieli:

Przeprowadzić ocenę skutków dla ochrony danych przed wdrożeniem systemu AI
Dokumentować cele, dla których narzędzie jest wykorzystywane
Zapewnić przejrzystość działania algorytmu
Zachować rzeczywisty nadzór człowieka nad decyzjami
Umożliwić kandydatom kwestionowanie decyzji

Dla kandydatów oznacza to potencjalnie większą ochronę przed dyskryminacją algorytmiczną, prawo do wyjaśnienia, dlaczego zostali odrzuceni, oraz możliwość interwencji człowieka w decyzje podjęte przez maszynę.

Wniosek UODO jest znaczący, bo pokazuje, że instytucje ochrony danych dostrzegają rzeczywiste zagrożenia związane z wykorzystaniem AI w zatrudnieniu. Obecne przepisy ochrony danych (RODO) i kodeks pracy mogą być niewystarczające wobec możliwości technicznych algorytmów, które potrafią wyciągać wnioski z informacji, które pracodawca nigdy nie powinien analizować. Bez nowych regulacji ryzyko dyskryminacji kandydatów przez systemy AI będzie rosnąć wraz z rozpowszechnieniem tych narzędzi na rynku pracy.