Zakon o veštačkoj inteligenciji EU (AI Act)
Šta je Zakon o veštačkoj inteligenciji EU?
Zakon o veštačkoj inteligenciji predstavlja predloženi evropski zakon koji reguliše upotrebu veštačke inteligencije (AI) - prvi sveobuhvatni zakon o veštačkoj inteligenciji donet od strane velikog zakonodavca.
Ovaj zakon klasifikuje primenu veštačke inteligencije u tri kategorije rizika:
- Neprihvatljiv rizik: Zabranjene su aplikacije i pristupi koji stvaraju neprihvatljive rizike, kao što je društveno bodovanje koje sprovodi vlada.
- Visokorizične aplikacije: Poput alata za procenu CV-jeva koji rangira kandidate za posao, podležu posebnim zakonskim zahtevima.
- Nizak rizik: Aplikacije koje nisu izričito zabranjene ili kategorizovane kao visokorizične uglavnom ostaju neregulisane.
Slično Opštoj uredbi EU o zaštiti podataka (GDPR) iz 2018. godine, Zakon o veštačkoj inteligenciji EU može postati globalni standard.
Šta je izričito zabranjeno (Član 5.)
Zakon propisuje stroge zabrane za sisteme koji narušavaju temeljna prava i privatnost:
- Manipulacija ponašanjem: Korišćenje AI u svrhu uticaja na ponašanje putem skrivenih, manipulativnih ili obmanjujućih tehnika.
- Biometrijska kategorizacija: Upotreba podataka za utvrđivanje rase, seksualne orijentacije, verskih uverenja ili članstva u sindikatu.
- Socijalno bodovanje: Praćenje ponašanja koje dovodi do diskriminacije u pristupu javnim uslugama (npr. zbog prethodne upotrebe droga).
- Prepoznavanje lica u realnom vremenu (RBI): Zabranjeno na javnim mestima, osim u istrazi teških krivičnih dela ili potrazi za nestalima uz odobrenje suda.
- Prediktivno policijsko delovanje: Procena verovatnoće izvršenja krivičnog dela samo na osnovu ličnih karakteristika.
- Neselektivno skeniranje lica: Kreiranje baza podataka skeniranjem interneta ili CCTV zapisa (poput prakse kompanije Clearview AI).
- Procena emocija: Korišćenje AI za procenjivanje emocija osobe na radnom mestu ili u obrazovnom okruženju.
Obaveze za visokorizične sisteme
Kreatori sastava veštačke inteligencije u scenarijima "visokog rizika" obavezni su da:
- Sprovode etičko prikupljanje skupova podataka uz osiguravanje reprezentativnosti i nepristranosti.
- Izrade tehničku dokumentaciju o funkcionalnosti i merama za upravljanje rizikom.
- Vode evidenciju o upotrebi AI radi lakšeg praćenja incidenata.
- Osiguraju ljudski nadzor (human oversight) nad upotrebom sistema.
- Garantuju odgovarajuće nivoe tačnosti, robusnosti i kibernetičke sigurnosti.
Svako ko uvodi visokorizične sastave veštačke inteligencije moraće sprovesti procenu uticaja na temeljna prava prema zakonu EU.
Provera usklađenosti
Provera usklađenosti sa EU AI zakonom može se izvršiti na sledećem linku:
EU AI Act Compliance Checker