Član 5 EU Akta o veštačkoj inteligenciji sadrži listu praksi koje Evropska unija smatra neprihvatljivim. Za razliku od visokorizičnih sistema, koji su dozvoljeni uz stroge uslove, ove prakse su zabranjene. Zabrane se primenjuju od 2. februara 2025, a kazne za njihovo kršenje od 2. avgusta 2025.
Evropska komisija je u februaru 2025. objavila smernice sa tumačenjem zabranjenih praksi i primerima. U nastavku dajemo pregled svih osam zabrana i ukazujemo na situacije u kojima kompanije najlakše pogreše.
Ukratko
- Zabrane važe za pružaoce i za korisnike AI sistema.
- Za kršenje zabrana prete kazne do 35 miliona evra ili 7% ukupnog godišnjeg prometa na svetskom nivou.
- Prepoznavanje emocija zaposlenih i kandidata za posao je zabranjeno, osim iz medicinskih ili bezbednosnih razloga.
Osam zabranjenih praksi
1. Manipulativne i obmanjujuće tehnike
Zabranjeni su sistemi koji koriste subliminalne, namerno manipulativne ili obmanjujuće tehnike. Zabrana važi kada takve tehnike bitno narušavaju sposobnost osobe da donese informisanu odluku i kada joj nanose ili mogu naneti značajnu štetu. Primer je interfejs koji AI-jem prilagođava pritisak na kupca tako da ga navede na odluku koju inače ne bi doneo.
2. Iskorišćavanje ranjivosti
Zabranjeno je iskorišćavanje ranjivosti osoba zbog godina, invaliditeta ili posebne socijalne ili ekonomske situacije, ako to bitno narušava njihovo ponašanje i nanosi im značajnu štetu. To se odnosi, na primer, na ciljano oglašavanje zasnovano na AI-ju koje cilja prezadužene osobe ponudama nepovoljnih kredita.
3. Društveno bodovanje
Zabranjeno je ocenjivanje ili klasifikovanje ljudi na osnovu društvenog ponašanja ili ličnih osobina, kada to dovodi do nepovoljnog postupanja. Zabrana važi ako se postupanje odvija u kontekstu nepovezanom sa onim u kome su podaci prikupljeni, ili ako je neopravdano i nesrazmerno. Zabrana se ne odnosi samo na državu, već i na privatne kompanije.
4. Predviđanje krivičnih dela na osnovu profilisanja
Zabranjena je procena rizika da će neko učiniti krivično delo isključivo na osnovu profilisanja ili ličnih osobina. Izuzetak su sistemi koji podržavaju ljudsku procenu zasnovanu na objektivnim i proverljivim činjenicama.
5. Masovno prikupljanje fotografija lica
Zabranjeno je pravljenje ili proširivanje baza za prepoznavanje lica neciljanim prikupljanjem fotografija sa interneta ili sa snimaka video nadzora.
6. Prepoznavanje emocija na radnom mestu i u obrazovanju
Zabranjeni su sistemi koji zaključuju o emocijama ljudi na radnom mestu i u obrazovnim ustanovama. Izuzetak postoji samo kada se sistem koristi iz medicinskih ili bezbednosnih razloga.
7. Biometrijska kategorizacija po osetljivim osobinama
Zabranjeno je razvrstavanje ljudi na osnovu biometrijskih podataka radi zaključivanja o rasi, političkim stavovima, članstvu u sindikatu, verskim ili filozofskim uverenjima, seksualnom životu ili seksualnoj orijentaciji.
8. Biometrijska identifikacija u realnom vremenu za potrebe policije
Daljinska biometrijska identifikacija u realnom vremenu na javnim mestima, za potrebe sprovođenja zakona, zabranjena je osim u strogo određenim slučajevima. To su, na primer, potraga za žrtvama otmice ili sprečavanje neposredne terorističke pretnje. Ova zabrana se po pravilu ne tiče privatnih kompanija.
Gde kompanije najčešće greše
Većina zabrana deluje daleko od svakodnevnog poslovanja. U praksi se problemi ipak javljaju u alatima koji su kupljeni kao gotova rešenja, sa funkcijama koje niko nije detaljno proverio.
- Video intervjui sa analizom emocija. Alat koji tokom intervjua procenjuje entuzijazam, nervozu ili iskrenost kandidata zaključuje o emocijama u kontekstu zapošljavanja. To spada u zabranjenu praksu.
- Analiza raspoloženja agenata u kontakt centru. Praćenje emocija zaposlenih kroz analizu glasa radi ocene učinka zabranjeno je. Analiza emocija kupaca nije obuhvaćena ovom zabranom, ali podleže drugim pravilima.
- Agresivna personalizacija prodaje. Sistemi koji ciljaju ranjive grupe ili koriste psihološke slabosti da bi ubrzali kupovinu mogu preći granicu manipulacije.
- Interne ocene „pouzdanosti“ zaposlenih. Bodovanje zaposlenih na osnovu ponašanja van posla ili podataka iz nepovezanih izvora može predstavljati društveno bodovanje.
Šta se dodatno menja
U okviru paketa Digitalni omnibus postignut je dogovor da se lista zabrana proširi. Nova zabrana obuhvata aplikacije koje bez pristanka generišu intimne snimke stvarnih osoba. Lista zabranjenih praksi se proverava svake godine, pa je moguće da će se vremenom širiti.
Šta treba uraditi
- Proverite postojeće alate. Posebno one za zapošljavanje, praćenje učinka, korisničku podršku i marketing.
- Tražite pisane izjave od dobavljača. Dobavljač treba da potvrdi da sistem nema funkcije koje spadaju u zabranjene prakse, ili da se one mogu isključiti.
- Isključite sporne funkcije. Ako alat ima analizu emocija ili sličnu opciju, isključite je i dokumentujte to.
- Uključite pravnu proveru u nabavku. Pre uvođenja novog AI alata kratka pravna provera je jeftinija od naknadnog usklađivanja.
Zabranjene prakse su prvi deo AI Act-a koji se primenjuje. Zato su i prva tačka u svakoj proveri usklađenosti. Širi pregled obaveza dali smo u tekstu EU AI Act: vodič za kompanije u Srbiji.
