- Bezprawnik -
- Firma -
- Nie każda AI jest bezpieczna dla firmy. Za tę możesz zapłacić miliony euro kary
Nie każda AI jest bezpieczna dla firmy. Za tę możesz zapłacić miliony euro kary
Okrągłe sformułowania o optymalizacji HR za pomocą sztucznej inteligencji zderzają się z faktami. Rygorystyczne obostrzenia weszły w życie w lutym 2025 roku. Unijny prawodawca wykluczył z obrotu prawnego systemy AI przeznaczone do rozpoznawania emocji w miejscu pracy oraz w trakcie rekrutacji.
Odpowiedzialność zarządu zaczyna się w momencie, gdy algorytm przestaje być jedynie asystentem, a zaczyna współdecydować o losie kandydata na pracownika. Już dzisiaj rekruter korzystający z bota do przesiewania aplikacji powinien wiedzieć, na jakich danych bota wytrenowano i kiedy pomocnik zawodzi albo lubi zmyślać.
Analiza emocji kandydata zakazana przez AI Act
Sztuczna inteligencja w przedsiębiorstwie musi opierać się na poszanowaniu prawa i prywatności pracowników. Jeśli wykorzystywane oprogramowanie analizuje mikroekspresje twarzy kandydata, barwę jego głosu czy tempo wypowiedzi pod kątem poziomu stresu lub prawdomówności, pracodawca narusza prawo.
Kary za naruszenie AI Act sięgają milionów euro
Do 15 mln euro lub 3 proc. światowego obrotu grozi za naruszenie obowiązków dotyczących systemów AI wysokiego ryzyka, do których należą systemy do selekcji kandydatów. Do 35 mln euro lub do 7 proc. globalnego rocznego obrotu przedsiębiorstwa z poprzedniego roku obrotowego grozi np. za stosowanie systemów rozpoznawania emocji w miejscu pracy, a do 7,5 mln euro lub 1 proc. światowego obrotu – za przekazanie organom nadzorczym wprowadzających w błąd lub niekompletnych informacji.
Firma musi poinformować cię o rekrutacji z użyciem AI
Sztuczna inteligencja może zająć się rekrutacją w firmie. Głównym obszarem zastosowania AI w rekrutacji i szerzej w zasobach ludzkich są systemy zakwalifikowane przez rozporządzenie do kategorii wysokiego ryzyka. Mowa tu o narzędziach wykorzystywanych do profilowania kandydatów oraz oceny pracowników pod kątem awansów, podwyżek czy zwolnień. Od 2 sierpnia 2026 roku obowiązują nowe obowiązki AI Act, w tym nakaz informowania kandydatów o tym, że wchodzą w interakcję ze sztuczną inteligencją.
Systemy AI wysokiego ryzyka w HR. Pełne obowiązki od grudnia 2027 roku
W grudniu 2027 roku wejdą w życie pełne obowiązki nakładane na podmioty stosujące systemy wysokiego ryzyka. Przedsiębiorstwo będzie musiało zagwarantować ciągły nadzór ze strony człowieka, wdrożyć procedury zapobiegające dyskryminacji oraz zapewnić dokładność i bezpieczeństwo danych szkoleniowych.
Algorytm nie powinien robić, co chce, bez kontroli. Bo gdy nietransparentny bot na wstępie odrzuca np. 90 proc. życiorysów, poświadczenie decyzji podpisem rekrutera tworzy jedynie iluzję rzeczywistej weryfikacji. W praktyce algorytm odrzuci twoje CV, zanim ktokolwiek naprawdę się mu przyjrzy. To klasyczny efekt pozornej kontroli – rekruter podpisuje się pod decyzją, której mechanizmów do końca nie rozumie, legitymizując potencjalny dyskryminacyjny błąd algorytmu.
Odrzucony przez AI kandydat może dochodzić swoich praw
Prezydent Karol Nawrocki podpisał ustawę o systemach sztucznej inteligencji, która wprowadza brakujący element układanki w postaci Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.
Ale oczekiwanie na pełne ukształtowanie się tejże komisji nie wstrzymuje odpowiedzialności prawnej. Odrzucony aplikant ma prawo wystąpić na drogę sądową, opierając swoje roszczenia na unijnym rozporządzeniu oraz krajowym prawie pracy. Od 28 października złożysz też skargę na AI w rekrutacji.
Rekruter, ChatGPT i RODO
Równolegle ujawnia się powszechny problem naruszania przepisów o ochronie danych osobowych. Praktyka wklejania przez rekruterów treści dokumentów aplikacyjnych do publicznych modeli językowych może łamać RODO. To część szerszego problemu, jakim jest niekontrolowane korzystanie z AI przez pracowników.
