Kadrovska služba je jedna od oblasti u kojima se AI alati najbrže šire. Sistemi za praćenje kandidata rangiraju biografije, platforme za intervjue automatski ocenjuju odgovore, a softver za upravljanje učinkom predlaže ocene i raspodelu zadataka. Ti alati štede vreme, ali utiču na egzistenciju ljudi. Zato ih EU Akt o veštačkoj inteligenciji svrstava među visokorizične sisteme.
Ukratko
- AI sistemi za zapošljavanje i upravljanje zaposlenima su visokorizični (Aneks III, tačka 4).
- Poslodavac koji ih koristi ima obaveze iz člana 26, uključujući ljudski nadzor i obaveštavanje zaposlenih.
- Prepoznavanje emocija kandidata i zaposlenih je zabranjeno.
- Rok za visokorizične sisteme pomeren je na 2. decembar 2027, ali se pravila o zaštiti podataka i zabrani diskriminacije primenjuju već danas.
Koji HR alati su visokorizični
Tačka 4 Aneksa III obuhvata dve grupe sistema.
Zapošljavanje i selekcija
- ciljano oglašavanje radnih mesta;
- analiza i filtriranje prijava;
- ocenjivanje kandidata.
Odluke u toku radnog odnosa
- odluke koje utiču na uslove rada, napredovanje ili prestanak radnog odnosa;
- raspodela zadataka na osnovu ponašanja ili ličnih osobina zaposlenih;
- praćenje i ocenjivanje učinka i ponašanja zaposlenih.
Alat ne mora sam da donosi odluku da bi bio obuhvaćen. Dovoljno je da rangira kandidate ili daje preporuke na koje se donosilac odluke oslanja. Sistemi koji vrše profilisanje fizičkih lica uvek su visokorizični, bez mogućnosti izuzetka.
Šta je potpuno zabranjeno
Od 2. februara 2025. zabranjeno je prepoznavanje emocija na radnom mestu, osim iz medicinskih ili bezbednosnih razloga. Alat koji tokom video intervjua procenjuje nervozu, entuzijazam ili iskrenost kandidata spada u zabranjenu praksu. Isto važi za alate koji iz glasa procenjuju raspoloženje zaposlenih radi ocene učinka. Više primera dali smo u tekstu o zabranjenim AI praksama.
Obaveze poslodavca kao korisnika sistema
Poslodavac koji kupi gotov HR alat najčešće nije pružalac, već korisnik sistema. Prema članu 26 AI Act-a, on mora da:
- Koristi sistem u skladu sa uputstvima pružaoca i preduzme odgovarajuće tehničke i organizacione mere.
- Obezbedi ljudski nadzor. Nadzor vrše osobe koje imaju potrebna znanja, obuku i ovlašćenja da preispitaju i promene preporuku sistema.
- Proveri ulazne podatke. Kada poslodavac kontroliše podatke koji se unose u sistem, oni moraju biti relevantni i dovoljno reprezentativni za namenu.
- Prati rad sistema. Ako uoči rizik, poslodavac obaveštava pružaoca i nadležne organe i obustavlja upotrebu.
- Čuva zapise. Automatski generisani zapisi čuvaju se najmanje šest meseci, ako su pod kontrolom poslodavca.
- Obavesti zaposlene. Pre uvođenja visokorizičnog sistema na radnom mestu obaveštavaju se predstavnici zaposlenih i zaposleni na koje se sistem odnosi.
- Obavesti osobe o kojima se odlučuje. Kandidati i zaposleni moraju znati da se na njih primenjuje visokorizični AI sistem.
Osobe na koje se odnosi odluka zasnovana na rezultatu takvog sistema imaju i pravo na objašnjenje uloge AI-ja u odlučivanju, prema članu 86.
Domaći propisi važe već danas
Rok za visokorizične sisteme pomeren je na 2. decembar 2027, kao što smo objasnili u tekstu o Digitalnom omnibusu. Poslodavci u Srbiji ipak već danas moraju da poštuju dva skupa pravila koja se direktno odnose na AI u HR-u.
- Zakon o zaštiti podataka o ličnosti. Po uzoru na GDPR, ovaj zakon ograničava donošenje odluka isključivo na osnovu automatizovane obrade, uključujući profilisanje, kada one proizvode pravne posledice ili značajno utiču na lice. Obrada podataka kandidata mora imati pravni osnov, a kandidati moraju biti obavešteni o njoj.
- Zakon o radu i propisi o zabrani diskriminacije. Zabranjena je neposredna i posredna diskriminacija lica koja traže zaposlenje i zaposlenih. AI model treniran na istorijskim podacima može nenamerno da prenese obrasce diskriminacije, na primer po polu ili godinama. Odgovornost za takvu odluku snosi poslodavac, a ne softver.
Kako da bezbedno uvedete AI u HR
- Pitajte dobavljača prava pitanja. Kako je model treniran, kako je testiran na pristrasnost, koje zapise čuva i da li ima funkcije analize emocija.
- Uredite ugovor. Ugovor sa dobavljačem treba da pokrije obradu podataka o ličnosti, pomoć pri usklađivanju sa AI Act-om, obaveštavanje o incidentima i odgovornost za greške sistema.
- Dopunite interna akta. Pravilnik o radu, pravila o zaštiti podataka i obaveštenja za kandidate treba da odražavaju upotrebu AI alata.
- Zadržite poslednju reč za čoveka. Odluka o zaposlenju, oceni ili otkazu treba da bude doneta i obrazložena od strane odgovorne osobe, a ne preuzeta iz sistema.
- Obučite tim. AI pismenost je obaveza od februara 2025. Kadrovska služba mora razumeti ograničenja alata koje koristi.
Uvođenje AI alata u kadrovsku službu je pitanje radnog prava koliko i tehnologije. Ako planirate takav alat ili ga već koristite, pogledajte kako izgleda naša pravna podrška za radno pravo i HR.