063/397-395, 011/311-4837 Pon-Pet: 08h - 16h

Šta je Zakon o veštačkoj inteligenciji EU?

Zakon o veštačkoj inteligenciji predstavlja predloženi evropski zakon koji reguliše upotrebu veštačke inteligencije (AI) - prvi sveobuhvatni zakon o veštačkoj inteligenciji donet od strane velikog zakonodavca.

Ovaj zakon klasifikuje primenu veštačke inteligencije u tri kategorije rizika.

  • Prvo, zabranjene su aplikacije i pristupi koji stvaraju neprihvatljive rizike, kao što je društveno bodovanje koje sprovodi vlada, slično praksi u Kini.
  • Drugo, visokorizične aplikacije, poput alata za procenu CV-jeva koji rangira kandidate za posao, podležu posebnim zakonskim zahtevima.
  • Na kraju, aplikacije koje nisu izričito zabranjene ili kategorizovane kao visokorizične uglavnom ostaju neregulisane
  •  

    Provera usklađenosti sa EU AI zakonom može se izvršiti na sledećem linku: EU AI Act Compliance Checker

    Slično Opštoj uredbi EU o zaštiti podataka (GDPR) iz 2018. godine, Zakon o veštačkoj inteligenciji EU može postati globalni standard.

    Šta je izričito zabranjeno:

    Član 5. propisuje upotrebu AI koja je zabranjena. To uključuje korišćenje u svrhu uticaja na ponašanje, kao što su skrivene, manipulativne ili obmanjujuće tehnike podržane veštačkom inteligencijom.

    Takođe, upotreba biometrijskih podataka za utvrđivanje rase, seksualne orijentacije, verskih uverenja ili članstva u sindikatu nije dozvoljena. Posebno, socijalno bodovanje, koje uključuje praćenje ponašanja osobe na način koji može dovesti do nepoštovanja u drugim situacijama, kao na primer, odbijanje pristupa javnoj usluzi zbog prethodne upotrebe droga, takođe je zabranjeno.

    Korišćenje tehnologije prepoznavanja lica u realnom vremenu (poznato i kao "daljinska biometrijska identifikacija" ili RBI) na javnim mestima je zabranjeno, osim u slučajevima kada organi za sprovođenje zakona koriste ovu tehnologiju u istrazi ozbiljnih krivičnih dela ili u potrazi za nestalim osobama, pod uslovom da imaju odobrenje suda.

    Prediktivno policijsko delovanje, odnosno korišćenje veštačke inteligencije za procenu verovatnoće da će osoba počiniti neko krivično delo samo na osnovu ličnih karakteristika, nije dozvoljeno.

    Alati veštačke inteligencije ne smeju se koristiti za kreiranje baza podataka slika lica putem skeniranja internetskih ili CCTV video zapisa, kao što je slučaj sa kontroverznom američkom kompanijom Clearview AI.

    Na kraju, zabranjeno je korišćenje alata veštačke inteligencije za procenjivanje emocija osobe na radnom mestu ili u obrazovnom okruženju.

    Kreatori sastava veštačke inteligencije koji se koriste u scenarijima "visokog rizika" obavezni su da slede prakse upravljanja podacima, uključujući etičko prikupljanje skupova podataka za obuku i osiguravanje njihove reprezentativnosti i nepristranosti koliko god je to moguće.

    Biće u obavezi i da izrade tehničku dokumentaciju o funkcionalnosti veštačke inteligencije i merama za upravljanje rizikom, da vode evidenciju o upotrebi veštačke inteligencije kako bi pomogli u praćenju incidenata, te da osiguraju da stvarne osobe mogu nadzirati upotrebu veštačke inteligencije i garantovati odgovarajuće nivoe tačnosti, robusnosti i kibernetičke sigurnosti.

    Svako ko uvodi visokorizične sastave veštačke inteligencije moraće sprovesti procenu kako bi utvrdili kako taj alat može uticati na temeljna prava prema zakonu EU.

    05.03.2024. godine