USA: ranking kandydatów w ATS bez audytu bias i powiadomienia

Sytuacja wyjściowa

Agencja pracy tymczasowej obsługująca małe i średnie firmy w Nowym Jorku i Illinois, ok. 75 osób, dostaje od klientów kilkaset aplikacji na tę samą requisition (otwarte stanowisko) w ciągu kilku dni; jeden rekruter zwykle obsługuje kilkanaście otwartych requisition naraz. Klient dołącza do zamówienia własne pytania odsiewające (prawo do pracy, dostępność na zmiany, dopuszczalny czas dojazdu), które trafiają do rankingu jako dane wejściowe, więc klient agencji współtworzy narzędzie, za które potem odpowiada sama agencja.

Rekruter ręcznie przechodzący przez CV nie nadąża, więc dział IT wdraża w systemie ATS (applicant tracking system) funkcję automatycznego rankingu kandydatów na podstawie CV i odpowiedzi z formularza aplikacyjnego. Klienci agencji są zadowoleni: shortlist trafia do nich szybciej.

Problem wychodzi na jaw, gdy jeden z klientów pyta, czy agencja przeprowadziła audyt bias narzędzia, bo sam ma wewnętrzną politykę wymagającą tego od dostawców HR-tech, a agencja nie ma na to gotowej odpowiedzi, bo nikt nie sprawdził, czy narzędzie kwalifikuje się jako automated employment decision tool w rozumieniu prawa miasta czy stanu, w którym pracuje kandydat.

Co ustalił audyt

Audyt zaczyna od ustalenia, które przepisy w ogóle mają zastosowanie, i stwierdza, że w USA nie ma jednego, krajowego standardu: obowiązki różnią się miasto po mieście i stan po stanie, mają różne wyzwalacze geograficzne i nie wolno ich traktować jako jednego wymogu.

NYC Local Law 144

NYC Local Law 144 (Admin. Code §§ 20-870–20-874) wymaga, by pracodawca lub agencja pracy używająca AEDT (automated employment decision tool) do zastąpienia lub istotnego wspomagania decyzji o zatrudnieniu lub awansie na stanowisko zlokalizowane w Nowym Jorku (także zdalne, przypisane do biura w Nowym Jorku), a także gdy sama agencja pracy ma siedzibę w Nowym Jorku, musi: zamówić niezależny audyt bias nie starszy niż rok, opublikować streszczenie wyniku i powiadomić kandydatów będących rezydentami miasta co najmniej 10 dni roboczych przed użyciem narzędzia. Wyzwalacz jest geograficzny i wiąże się z lokalizacją stanowiska albo z siedzibą samej agencji pracy w Nowym Jorku.

Illinois HB 3773

Illinois Public Act 103-0804 (HB 3773), w mocy od 1.01.2026 r., zmienia Illinois Human Rights Act: zakazuje AI, która ma efekt dyskryminujący ze względu na klasy chronione (w tym zakaz używania kodu pocztowego jako proxy), i wymaga powiadomienia o używaniu AI w tych decyzjach; formę i moment powiadomienia doprecyzowują przepisy wykonawcze stanowego departamentu praw człowieka, co wymaga odrębnego sprawdzenia. Te dwa obowiązki mają różne wyzwalacze i różne wymogi proceduralne, audyt sprawdza je odrębnie, nie jako jedną checklistę.

EEOC i Title VII

Trzecie ustalenie: EEOC usunęła ze swojej strony techniczne wytyczne o AI w zatrudnieniu 27.01.2025 r., ale to nie zmienia samego prawa, Title VII nadal zakazuje selekcji tworzącej nieuzasadniony dysproporcjonalny wpływ na grupy chronione, a pracodawca (i agencja działająca jako pracodawca w rozumieniu tych przepisów) odpowiada za narzędzie, nawet zbudowane przez dostawcę zewnętrznego.

Decyzje governance

Zarząd zamawia niezależny audyt bias narzędzia rankingowego tam, gdzie wymaga tego NYC LL144, czyli dla każdej requisition, gdzie stanowisko jest w NYC albo gdzie zgłasza się kandydat pracujący w NYC, i publikuje streszczenie wyniku zgodnie z wymogiem. Po drugie, wprowadza procedurę powiadomienia kandydatów zgodną z Illinois HB 3773 dla klientów działających w Illinois, odrębną od procedury nowojorskiej, bo terminy i forma się różnią.

Po trzecie, zarząd przyjmuje jawnie, że wytyczne EEOC nie istnieją już publicznie, więc odpowiedzialność wynika z samego Title VII, nie z checklisty EEOC, którą wcześniej dział HR traktował jako punkt odniesienia. Ustala też, że jeśli kandydat zgłosi zastrzeżenie do wyniku rankingu, pierwszym krokiem jest wewnętrzny przegląd przez rekrutera z dostępem do pełnych danych wejściowych, a nie automatyczna odpowiedź systemu, zanim sprawa eskaluje do NYC Commission on Human Rights albo do skargi na mocy Illinois Human Rights Act.

Co zautomatyzowano i dlaczego dopiero teraz

Dopiero po ustaleniu audytu bias i procedur powiadomienia agencja automatyzuje planowanie rozmów kwalifikacyjnych, kalendarz, przypomnienia, potwierdzenia terminu, bo ten krok nie ocenia kandydata, tylko organizuje logistykę po tym, jak shortlist już powstał. Ta automatyzacja mogła ruszyć równolegle, bez czekania na zamknięcie tematu audytu, właśnie dlatego, że nie dotyka samej decyzji rankingowej. Sposób rozdzielania „ocena kandydata" od „logistyka rozmowy" opisujemy szerzej w audytach AI i w AI governance.

Czego ten scenariusz nie mówi

Nie zakłada jednego, krajowego standardu zgodności: obowiązki NYC i Illinois mają różne wyzwalacze i różną formę powiadomienia, a agencja rozszerzająca się na kolejny stan czy miasto musi sprawdzić je od nowa, nie rozszerzać istniejącej checklisty. Nie ocenia, czy konkretny wynik audytu bias tego narzędzia byłby korzystny, to zależy od danych treningowych i konfiguracji, którą audyt sprawdza przypadek po przypadku, i musi potwierdzić prawnik lub doradca klienta w USA: Novus Point nie jest kancelarią i nie prowadzi działalności licencjonowanej w tym kraju.

Celowo nie odnosi się do stanowego reżimu Kolorado (Colorado AI Act): jego status zmieniał się trzykrotnie w ciągu dwunastu miesięcy i jest przedmiotem sporu sądowego na dzień pisania tego tekstu, więc każda agencja działająca w tym stanie musi sprawdzić aktualny stan bezpośrednio, nie z tego scenariusza.

Zakłada, że agencja rekrutuje wyłącznie na stanowiska w USA i że żaden kandydat nie przebywa w Unii: gdyby wynik rankingu był używany wobec kandydata w UE, unijny AI Act mógłby mieć zastosowanie przez art. 2 ust. 1 lit. c), a rekrutacja jest obszarem z Załącznika III, co wymaga odrębnej analizy.

Rezultat

Requisition trafiająca na stanowisko w NYC ma teraz przypisaną ścieżkę audytu bias i publikacji streszczenia, a requisition z klienta w Illinois ma odrębną ścieżkę powiadomienia kandydatów, obie prowadzone jako dwa różne obowiązki, nie jedna wspólna checklista. Kandydat, który zgłosi zastrzeżenie do wyniku rankingu, trafia najpierw do rekrutera z dostępem do danych wejściowych, zanim sprawa eskaluje do zewnętrznego organu.

Następny krok

Dla zarządu agencji, który nie wie, czy jego obecne wdrożenie ATS wymaga audytu bias w konkretnym mieście lub stanie klienta, punktem wejścia jest bezpłatny audyt wstępny pod adresem novus-point.pl/audyt. Kto już wie, że obsługuje klientów w więcej niż jednej jurysdykcji z różnymi wymogami, może zacząć od rozmowy 30-minutowej przez formularz kontaktowy, prowadzonej przez Google Meet, bez gwarancji wyniku regulacyjnego z góry.