AI w Rekrutacji. Część II
Algorytm nie potrzebuje dyskryminującego polecenia, aby zacząć nierówno traktować kandydatów. Czasem wystarczy kilka przypadkowych wyników, z których model wyciągnie wnioski dotyczące całych grup. Jednym z najpoważniejszych zagrożeń jest dyskryminacja ze względu na pochodzenie, w tym rasizm.
AI w rekrutacji często kojarzy się z chłodną analizą danych. Bez sympatii, pierwszego wrażenia i gorszego dnia rekrutera. Z tego obrazu łatwo wyciągnąć wniosek, że algorytm powinien oceniać ludzi bardziej obiektywnie.
Badanie naukowców z Princeton University i University of Chicago pokazuje inne ryzyko. Model może sam stworzyć stereotyp podczas podejmowania kolejnych decyzji. Nie musi przejąć go z danych treningowych. Wystarczy, że skojarzy kilka sukcesów lub porażek z przynależnością kandydatów do określonej grupy.
Rekrutacja w fikcyjnym mieście
Badanie „Large Language Models Develop Novel Social Biases Through Adaptive Exploration” zostało zaprezentowane podczas konferencji ICML 2026 w Seulu.
Modele językowe otrzymały rolę konsultanta rekrutacyjnego pomagającego burmistrzowi fikcyjnego miasta. Do obsadzenia było 20 stanowisk, między innymi lekarza, prawnika, opiekuna dzieci, kasjera i pracownika utrzymania czystości.
Kandydaci należeli do czterech fikcyjnych grup: Tufa, Aima, Reku i Weki. Każdy model podejmował 40 kolejnych decyzji. Po każdym wyborze dostawał informację, czy zatrudniona osoba sprawdziła się na stanowisku.
Wszyscy kandydaci mieli identyczne szanse na sukces. Nazwa grupy nie mówiła niczego o ich umiejętnościach ani predyspozycjach. Powodzenie lub porażka były dziełem przypadku.
Mimo to po kilku rundach przynależność do grupy zaczynała wpływać na rodzaj proponowanej pracy.
Jedna porażka, wniosek o całej grupie
W jednej z pokazanych sekwencji kandydat z grupy Aima nie sprawdził się jako lekarz. Model potraktował pojedynczą porażkę jak informację o wszystkich osobach z tej grupy.
Przy kolejnych rekrutacjach unikał kandydatów Aima na stanowiska medyczne. Częściej wybierał ich natomiast do zawodów, które sam uznawał za wymagające mniejszych kompetencji.
Nikt nie przekazał modelowi informacji, że osoby Aima są gorszymi lekarzami. Taka zależność nie istniała. Model stworzył ją na podstawie przypadku, a później utrwalał własnymi decyzjami.
Mechanizm szybko zaczął napędzać się sam. Kandydaci z grupy, której przedstawiciel odniósł sukces, byli później wybierani częściej. Osoby z pozostałych grup pojawiały się w wyborach modelu rzadziej, więc brakowało nowych wyników, które mogłyby podważyć jego pierwsze założenia. Im dłużej trwał eksperyment, tym trudniej było przełamać schemat zbudowany podczas pierwszych rund.
Co dokładnie mierzyli badacze?
Badacze chcieli sprawdzić, w jakim stopniu przynależność do grupy wpływała na rodzaj stanowiska proponowanego kandydatowi. Wynik przedstawiali na skali od 0 do 2.
Wynik bliski 0 oznaczał, że przedstawiciele każdej grupy trafiali do różnych zawodów. Wartość zbliżona do 2 wskazywała na niemal pełny podział: każda grupa była regularnie kojarzona z określonym rodzajem stanowisk.
- 0,25: średni wynik przy losowym przydziale, gdy nazwa grupy praktycznie nie wpływała na wybór zawodu
- 0,84: średni wynik ludzi wykonujących analogiczne zadanie
- 1,39: średni wynik modeli językowych, około 65 proc. wyższy od wyniku ludzi
- 1,83: wynik OpenAI o3 przy maksymalnej wartości skali wynoszącej 2
OpenAI o3 uzyskał wynik wskazujący na niemal całkowite przypisanie poszczególnych grup do określonych rodzajów pracy. DeepSeek-R1 osiągnął 1,41.
W badanych rodzinach modeli nowsze i bardziej zaawansowane wersje częściej utrwalały taki podział niż ich wcześniejsi poprzednicy. Sprawniejsze wyszukiwanie wzorców nie pomogło, gdy pierwsze obserwacje były przypadkowe. Model po prostu skuteczniej trzymał się błędnej reguły.
Od fikcyjnych grup do realnego ryzyka rasizmu
Fikcyjne nazwy grup były ważnym elementem eksperymentu. Tufa, Aima, Reku i Weki nie wiązały się ze znanymi stereotypami dotyczącymi prawdziwych narodowości lub grup etnicznych. Dzięki temu powstałe skojarzenia można było prześledzić od pierwszej decyzji.
W prawdziwej rekrutacji system otrzymuje znacznie więcej informacji. Imię, język, miejsce zamieszkania, szkoła czy przebieg kariery mogą pośrednio wskazywać pochodzenie kandydata. Pole opisane wprost jako rasa lub narodowość nie jest potrzebne.
Jeżeli osoby o podobnych cechach były wcześniej oceniane w określony sposób, model może powtarzać ten schemat wobec kolejnych kandydatów. Jednostkowa porażka zaczyna wtedy działać jak opinia o całej grupie.
Dyskryminacja nie musi pojawić się w uzasadnieniu ani w języku używanym przez system. Można ją zauważyć dopiero po przeanalizowaniu decyzji. Jedna grupa rzadziej dostaje zaproszenie na rozmowę, częściej odpada po automatycznej selekcji albo regularnie otrzymuje niższe oceny.
Algorytm nie potrzebuje uprzedzeń rozumianych jako poglądy. Wystarczy powtarzalny sposób działania, który daje jednej grupie mniejsze szanse.
Dlaczego model tak szybko uwierzył we własny schemat?
Zadaniem modelu było zdobycie jak największej liczby punktów za udane zatrudnienia. Po sukcesie chętnie powtarzał podobny wybór. Po porażce szukał innej grupy.
To strategia, która może działać, gdy wcześniejsze wyniki rzeczywiście mówią coś o kolejnych przypadkach. Tutaj nie mówiły. Każdy kandydat miał takie same szanse, a wynik pojedynczego zatrudnienia był losowy.
Model nie sprawdzał wystarczająco wielu możliwości. Zamiast tego wybierał rozwiązanie, które wcześniej przyniosło punkt. W ten sposób pierwsze przypadkowe wyniki zaczęły decydować o całej dalszej rekrutacji.
Podobna sytuacja może powstać w firmie, która uczy system na podstawie wcześniejszych zatrudnień, awansów albo ocen pracowników. Dane historyczne opisują decyzje podjęte przez konkretną organizację. Razem z trafnymi wyborami zapisują się w nich również wcześniejsze nierówności, różne standardy oceniania i ograniczony dostęp niektórych osób do możliwości rozwoju.
Po przeliczeniu takich danych przez model dawne decyzje nie stają się bardziej obiektywne. Otrzymują jedynie nową formę: punkt, procent dopasowania albo miejsce w rankingu.
Polecenie „bądź sprawiedliwy” niewiele zmieniło
Badacze próbowali ograniczyć powstające uprzedzenia na kilka sposobów.
Prośba o sprawiedliwe decyzje przyniosła niewielką poprawę. Model nadal przypisywał poszczególne grupy do określonych zawodów.
Lepszy efekt dawało zachęcanie go do sprawdzania różnych możliwości, zamiast ciągłego powtarzania wcześniejszych wyborów. Pojedynczy sukces lub porażka miały wtedy mniejszy wpływ na kolejne decyzje.
Deklaracja dostawcy, że system jest bezstronny, nie zastępuje testów. Kilka zdań o równości i różnorodności wpisanych do instrukcji także nie rozwiąże problemu.
Liczy się zachowanie narzędzia podczas całej serii rekrutacji. Czy te same grupy regularnie otrzymują niższe oceny? Czy raz powstały wzorzec utrzymuje się przy kolejnych kandydatach? Czy rekruter potrafi ustalić, skąd wzięła się rekomendacja?
Punktowa ocena sprawia wrażenie obiektywnej
Szczególnie uważnie trzeba sprawdzać narzędzia, które przyznają kandydatom punkty, tworzą rankingi lub wskazują osoby rekomendowane do kolejnego etapu.
Liczba wygląda konkretnie. Kandydat ma 82 proc. dopasowania, 67 punktów albo czwarte miejsce na liście. Taki wynik łatwo pomylić z pomiarem kompetencji.
Tymczasem każda punktacja opiera się na czyjejś definicji dobrego kandydata. Ktoś wybrał dane, określił ich znaczenie i zdecydował, które wcześniejsze zatrudnienia uznać za sukces.
Jeśli system uczy się na decyzjach firmy, może premiować osoby podobne do tych, które zatrudniano dotychczas. Jeżeli korzysta z ocen pracowników, przejmuje również sposób, w jaki organizacja przyznawała oceny i awanse.
Precyzyjny wynik nadal może opierać się na nietrafnym założeniu. Dwie cyfry po przecinku nie czynią go bardziej sprawiedliwym.
Dlatego Unia Europejska chce chronić kandydatów
Punktowa ocena może wpływać na to, kto otrzyma zaproszenie na rozmowę, a kto odpadnie z rekrutacji bez kontaktu z człowiekiem. Dlatego unijne przepisy nie traktują systemów oceniających kandydatów jak zwykłych narzędzi biurowych.
AI Act zalicza do systemów wysokiego ryzyka między innymi rozwiązania wykorzystywane do analizowania i filtrowania aplikacji oraz oceniania kandydatów. Celem tych przepisów jest ochrona ludzi przed dyskryminacją i decyzjami podejmowanymi na podstawie niejasnych lub niewłaściwie dobranych kryteriów.
Przepisy mają również zwiększyć przejrzystość całego procesu. Kandydat powinien zostać poinformowany, że przy podejmowaniu dotyczącej go decyzji wykorzystano system AI. Samo narzędzie ma być odpowiednio nadzorowane, testowane i dokumentowane, a pracodawca nie może zasłonić się tym, że korzystał z gotowego rozwiązania dostarczonego przez inną firmę.
Główne obowiązki dotyczące takich systemów mają być stosowane od 2 grudnia 2027 roku. Obejmą między innymi zarządzanie ryzykiem, kontrolę jakości danych, prowadzenie rejestrów zdarzeń, sprawdzanie dokładności systemu oraz zapewnienie rzeczywistego nadzoru człowieka.
Nie trzeba jednak czekać na pełne stosowanie AI Act. Już dziś pracodawcy muszą przestrzegać zasad równego traktowania, zakazu dyskryminacji i ochrony danych osobowych.
Więcej o tym, które systemy rekrutacyjne podlegają AI Act, jakie obowiązki będą miały firmy i kiedy zaczną być stosowane poszczególne przepisy, pisaliśmy w pierwszej części naszego cyklu o AI w rekrutacji.
To była symulacja. Pokazała jednak mechanizm, przed którym warto się chronić
Eksperyment odbywał się w kontrolowanych warunkach. Kandydaci należeli do fikcyjnych grup, a informacja o sukcesie lub porażce była uproszczona. Badacze nie sprawdzali konkretnego systemu rekrutacyjnego używanego przez pracodawcę.
Test pokazał jednak właściwość modeli, która ma znaczenie w prawdziwej rekrutacji. Potrafią szybko tworzyć reguły na podstawie niewielkiej liczby obserwacji. Następnie konsekwentnie stosują je wobec kolejnych osób i utrwalają historią własnych decyzji.
Właśnie przed takim mechanizmem trzeba chronić proces, gdy AI filtruje aplikacje, przyznaje punkty, tworzy ranking albo wskazuje kandydatów do odrzucenia.
Co powinna zrobić firma korzystająca z AI w rekrutacji?
Ustalić, co wpływa na ocenę kandydata
Firma powinna znać dane i kryteria wpływające na wynik. Trzeba też sprawdzić informacje, które mogą pośrednio wskazywać pochodzenie, płeć, wiek, niepełnosprawność lub sytuację życiową.
Powiązać każde kryterium z wymaganiami stanowiska
Wykształcenie, doświadczenie, przerwa w zatrudnieniu czy miejsce zamieszkania nie powinny wpływać na punktację tylko dlatego, że znalazły się w zbiorze danych. Dostawca i pracodawca muszą potrafić wyjaśnić związek każdego kryterium z konkretną pracą.
Testować serię decyzji, a nie jedno CV
Jedna poprawna ocena niczego nie dowodzi. Trzeba sprawdzać, jak system zachowuje się przy większej liczbie kandydatów i czy z czasem nie zaczyna regularnie zaniżać ocen określonej grupy.
Porównywać, kto przechodzi do kolejnych etapów
Firma powinna analizować odsetek zaproszeń, odrzuceń i pozytywnych rekomendacji w poszczególnych grupach. Wyraźna różnica wymaga sprawdzenia, nawet jeżeli system nie używa wprost danych o pochodzeniu czy płci.
Nie pozwalać na automatyczne odrzucenie bez kontroli rekrutera
Rekruter musi móc zobaczyć podstawy oceny, sprawdzić dane i odrzucić rekomendację systemu. Nadzór kończący się kliknięciem przycisku „zatwierdź” niczego nie zabezpiecza.
Ponawiać testy po każdej większej zmianie
Nowa wersja modelu, zmiana progu punktowego lub dodatkowe źródło danych mogą zmienić wyniki. Test wykonany przed wdrożeniem nie daje odpowiedzi na całe lata korzystania z narzędzia.
Zapewnić kandydatowi kontakt z człowiekiem
Kandydat powinien wiedzieć, że AI miała wpływ na jego ocenę, oraz móc poprosić o wyjaśnienie i ponowne sprawdzenie aplikacji przez rekrutera.
W LSJ kandydatów oceniają ludzie
W LSJ HR Group nie wykorzystujemy AI do oceniania kandydatów, tworzenia rankingów aplikacji, rekomendowania decyzji o zatrudnieniu ani prowadzenia rozmów rekrutacyjnych.
CV analizują rekruterzy. Rozmowy również prowadzą ludzie. To oni poznają doświadczenie, kompetencje, motywację i oczekiwania kandydata.
Człowiek także może się pomylić albo ulec uprzedzeniom. Dlatego rekrutacja wymaga jasnych kryteriów i odpowiedzialności za decyzję. Rekruter może jednak zadać dodatkowe pytanie, poznać kontekst i zmienić ocenę po otrzymaniu nowych informacji.
Technologia może porządkować proces. O tym, komu warto dać szansę, powinien decydować człowiek.