Informacijski pooblaščenec bo nadziral nekatere visoko tvegane sisteme umetne inteligence

V petek, 21. 11. 2025, je začel veljati Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI). Informacijski pooblaščenec bo kot organ za nadzor trga pristojen za nadzor nad prepovedanimi sistemi in določenimi visoko tveganimi sistemi umetne inteligence.

Informacijski pooblaščenec je na podlagi novega zakona pooblaščen za izvajanje nadzora na področjih, na katerih je tveganje za morebitne posege v temeljne pravice in svoboščine posameznikov zaradi uporabe sistemov umetne inteligence, največje. Nadzoroval bo najbolj tvegane sisteme UI, ki jih v Evropski uniji nikoli ni dovoljeno uporabljati in dajati na trg, med drugim so to sistemi UI za družbeno točkovanje, za napovedovanje izvrševanja kaznivih dejanj in sistemi UI za sklepanje o čustvih na delovnem mestu in v izobraževanju. Poleg tega bo izvajal nadzor tudi na določenimi visoko tveganimi sistemi UI, ki jih je sicer dovoljeno uporabljati, vendar le, če izpolnjujejo stroge pogoje Akta o umetni inteligenci, in sicer na področju biometrije, izobraževanja, preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, migracij azila in nadzora nad mejami ter na področju pravosodja in volitev.

Za izvajanje novih pristojnosti bo Informacijski pooblaščenec ustanovil nov oddelek za nadzor na področju umetne inteligence, ki bo deloval vzporedno z oddelki, ki nadzorujejo varstvo osebnih podatkov in dostop do informacij javnega značaja. Sistemi umetne inteligence, ki obdelujejo osebne podatke bodo tako podvrženi nadzoru tako z vidika varstva osebnih podatkov, kot tudi na podlagi določb Akta o umetni inteligenci. S tem se krepi vloga Informacijskega pooblaščenca kot varuha temeljnih pravic in svoboščin pri razvoju in uporabi sistemov umetne inteligence.

Slovenija je 23. 10. 2025 med prvimi v Evropski uniji sprejela nacionalno zakonodajo, v kateri je določila organe, ki bodo opravljali nadzor trga na področju sistemov UI, predpisala kazni za kršitve obveznosti iz Akta o umetni inteligenci ter uredila področje vzpostavitve in delovanja regulativnih peskovnikov kot nadzorovanega okolja za testiranje sistemov UI. Nadzor nas sistemi umetne inteligence bo v Sloveniji izvajalo pet organov za nadzor trga, poleg Informacijskega pooblaščenca še Agencija za komunikacijska omrežja in storitve, Banka Slovenije, Agencija za zavarovalni nadzor in Tržni inšpektorat.