Začela so se uporabljati pravila o preglednosti sistemov umetne inteligence

• Ministrstvo za notranje zadeve in javno upravo

Obveznosti se nanašajo na ponudnike in uvajalce določenih sistemov umetne inteligence ter se razlikujejo glede na vrsto sistema in način njegove uporabe.

Ponudniki sistemov umetne inteligence, namenjenih neposredni interakciji s fizičnimi osebami, morajo zagotoviti, da so posamezniki obveščeni, da komunicirajo s sistemom umetne inteligence. Takšno obvestilo ni potrebno, kadar je uporaba umetne inteligence očitna razmeroma dobro obveščeni, pozorni in preudarni osebi ob upoštevanju okoliščin in konteksta uporabe. Obveznost je pomembna zlasti pri uporabi klepetalnih robotov, virtualnih pomočnikov in drugih interaktivnih rešitev.

Ponudniki sistemov, ki ustvarjajo sintetične zvočne, slikovne, video- ali besedilne vsebine, morajo zagotoviti, da so izhodne vsebine označene v strojno berljivi obliki in prepoznavne kot umetno ustvarjene ali prirejene. Uporabljene tehnične rešitve morajo biti učinkovite, interoperabilne, robustne in zanesljive, kolikor je to tehnično izvedljivo.

Posebne obveznosti veljajo tudi za uvajalce nekaterih sistemov umetne inteligence. Posamezniki morajo biti obveščeni, kadar so izpostavljeni sistemu za prepoznavanje čustev ali biometrično kategorizacijo. Pri tem je treba osebne podatke obdelovati skladno s predpisi o varstvu osebnih podatkov.

Kadar se s sistemom umetne inteligence ustvari ali priredi slikovna, zvočna ali video vsebina, ki predstavlja globoki ponaredek, mora uvajalec razkriti, da je bila vsebina umetno ustvarjena ali prirejena. Pri umetniških, satiričnih, ustvarjalnih ali podobnih delih se obveznost razkritja uporablja na način, ki ne ovira prikaza ali uživanja dela.

Razkritje je praviloma potrebno tudi pri besedilu, ki je ustvarjeno ali prirejeno z umetno inteligenco in se objavi z namenom obveščanja javnosti o zadevah javnega interesa. Obveznost ne velja, kadar je bila vsebina predmet človeške preverbe ali uredniškega pregleda in ima določena fizična ali pravna oseba uredniško odgovornost za njeno objavo.

Informacije morajo biti posameznikom zagotovljene jasno in razločno, najpozneje ob prvi interakciji ali izpostavljenosti sistemu oziroma vsebini, ter v obliki, ki izpolnjuje veljavne zahteve glede dostopnosti.

Evropska komisija je za podporo enotnemu izvajanju pravil objavila smernice, ki podrobneje pojasnjujejo področje uporabe 50. člena, odgovorne subjekte, posamezne obveznosti, izjeme in praktične načine njihovega izpolnjevanja.

Izvajanje pravil v Sloveniji

V Sloveniji je za nadzor nad izvajanjem 50. člena Akta o umetni inteligenci pristojna Agencija za komunikacijska omrežja in storitve Republike Slovenije (AKOS). AKOS je obenem enotna kontaktna točka Republike Slovenije za izvajanje Akta o umetni inteligenci.

AKOS zagotavlja tudi vstopno točko za svetovanje ter odgovarjanje na vprašanja malih in srednjih podjetij, zagonskih podjetij, uvajalcev, drugih inovatorjev, organov lokalne samouprave in splošne javnosti v zvezi z izvajanjem Akta o umetni inteligenci.

Zakon o izvajanju Akta o umetni inteligenci (Zakon o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci) za kršitve obveznosti glede preglednosti določa prekrškovne sankcije. Zato je pomembno, da ponudniki in uvajalci sistemov umetne inteligence preverijo, katere obveznosti iz 50. člena veljajo za njihove sisteme in načine uporabe, ter pravočasno vzpostavijo ustrezne tehnične in organizacijske ukrepe.