Kdo odgovarja, ko algoritem zgreši

Kdo odgovarja, ko algoritem zgreši?

Priložnosti in pričakovanja na stičišču umetne inteligence, kibernetske varnosti in GDPR.

Dne 21. maja 2026 je v Ljubljani potekal posvet pooblaščenih oseb za varstvo osebnih podatkov v finančnem sektorju z naslovom Priložnosti in pričakovanja na stičišču GDPR, umetne inteligence in kibernetske varnosti, ki ga je organiziralo Združenje bank Slovenije.

Dogodek je združil predstavnike Agencije za zavarovalni nadzor, Informacijskega pooblaščenca, Banke Slovenije, Urada RS za informacijsko varnost, finančnih institucij, akademske sfere in druge strokovnjake s področja varstva osebnih podatkov, umetne inteligence in kibernetske varnosti. Razprave so bile namenjene izzivom, ki jih prinaša vse širša uporaba umetne inteligence, ter njenemu umeščanju v obstoječi regulativni okvir.

Pametnejše storitve, večja odgovornost

Posebna pozornost je bila namenjena vprašanjem preglednosti in odgovornosti pri uporabi sistemov umetne inteligence, preprečevanju pristranskosti pri avtomatiziranem odločanju, učinkovitemu človeškemu nadzoru ter povezavam med varstvom osebnih podatkov in kibernetsko odpornostjo organizacij.

Na okrogli mizi o pričakovanjih nadzornih organov v prepletu regulatornih zahtev je sodelovala tudi predstavnica Agencije za zavarovalni nadzor. V razpravi je bilo izpostavljeno, da nove tehnologije prinašajo pomembne priložnosti za učinkovitejše poslovanje in razvoj storitev, hkrati pa od finančnih institucij zahtevajo ustrezno upravljanje tveganj in jasno opredeljene odgovornosti.

Za zavarovalniški sektor so posebej pomembna vprašanja uporabe umetne inteligence pri ocenjevanju tveganj, določanju premij, odkrivanju goljufij, obravnavi škodnih zahtevkov in podpori strankam. Pri tem ostajajo ključni preglednost odločanja, varstvo pravic posameznikov ter ustrezen človeški nadzor nad delovanjem sistemov.

Vse se začne z znanjem

Udeleženci so posebno pozornost namenili tudi izvajanju Akta o umetni inteligenci in pomenu sodelovanja med regulatorji, industrijo, raziskovalnimi institucijami ter strokovno javnostjo. Ob tem je bila večkrat izpostavljena potreba po krepitvi znanja in kompetenc za varno, odgovorno in skladno uporabo umetne inteligence. Agencija za zavarovalni nadzor bo tudi v prihodnje spremljala vpliv digitalizacije in umetne inteligence na zavarovalniški sektor ter razvoj evropskega regulativnega okvira na tem področju.

Kdo odgovarja, ko algoritem zgreši? (PDF, 125.98 KB)