Ráðuneyti sameinast gegn djúpfölsun

Vinnuhópi þriggja ráðuneyta hefur verið falið að kanna hvernig best verði spornað við djúpfölsun og annarri misnotkun gervigreindartækni á Íslandi. Formaður hópsins er dr. María Rún Bjarnadóttir sem hefur sérhæft sig í mörkum mannréttinda- og tækniréttar og unnið ötullega að baráttu gegn stafrænu ofbeldi. Vinnan er á forræði menningar-, nýsköpunar- og háskólaráðuneytisins en atvinnuvegaráðuneytið og dómsmálaráðuneytið eiga fulltrúa í vinnuhópnum.

Alþjóðlegt vandamál

Djúpfalsanir eru alþjóðlegt vandamál sem stjórnvöld víða um heim beina nú sjónum sínum að. Víða er unnið að löggjöf sem á að draga úr því tjóni sem misnotkun gervigreindartækni getur valdið einstaklingum og samfélögum og auka gagnsæi um notkun hennar.

Höfundarréttarnálgun Dana í þessum efnum er umdeild og bent hefur verið á að réttur einstaklinga til eigin ímyndar eigi betur heima innan persónuverndarlöggjafar. Álitaefni í tengslum við djúpfölsun geta þannig komið inn á mörg réttarsvið og einskorðast ekki við höfundarrétt.

Innleiðing á Evrópulöggjöf sem snýr m.a. að djúpfölsun er í vinnslu hérlendis en skörun réttarsviða kallar á þétt samstarf viðeigandi ráðuneyta að sögn Loga Einarssonar menningar-, nýsköpunar- og háskólaráðherra. Hann segir að gervigreindin feli vissulega í sér mörg tækifæri en um leið þurfi skýrar reglur um misnotkun og öfluga fræðslu líkt og stjórnvöld leggja áherslu á í gegnum opinbera aðila eins og Netvís.

Sjá einnig: Ráðherra lætur kortleggja leiðir gegn djúpfölsun

Sporna gegn misnotkun

"Ég hef rætt við samstarfsfélaga mína í þeim ráðuneytum sem málið snertir og við erum sammála um að við þurfum að vinna saman gegn djúpfölsun og þvert á þá málaflokka sem eru undir. Djúpfölsun teygir anga sína vítt og breytt og það þurfum við líka að gera. Viðfangsefnið kallar á að gert sé grein fyrir hvaða þættir eru nú þegar varðir með lögum og hvar þarf að þétta lagarammann og því hefur verið settur saman vinnuhópur þriggja ráðuneyta sem hefur störf strax," segir Logi.

Vinnuhópnum er ætlað að greina hvaða þættir í tengslum við djúpfölsun eru þegar varðir með lögum og hvar gildandi löggjöf þarfnast úrbóta. Hópurinn muni kortleggja skörun milli ráðuneyta og leggja fram tillögur að úrbótum. Hópurinn skal jafnframt óska eftir innleggi frá öðrum ráðuneytum og eiga samráð við haghafa eins og þurfa þykir. Niðurstaða hópsins á að liggja fyrir eigi síðar en 1. október.

Undirbúningur lagasetningar hafinn

Í menningar-, nýsköpunar- og háskólaráðuneyti er fylgst náið með þróun á gervigreindarreglugerð Evrópusambandsins (AI Act), sem ætluð er til einföldunar á regluverkinu og til að taka á svokölluðum "nudify" forritum, sem breyta myndum af einstaklingum í nektarmyndir. Í reglugerðinni er einnig gerð gagnsæiskrafa á notendur gervigreindarkerfa, þ.e. að þeir skuli láta vita að átt hafi verið við efnið eða það búið til með gervigreind. Þá er lögð skylda á veitendur gervigreindarkerfa, sem búa til tilbúið hljóðefni, myndefni, myndskeið eða textaefni, að tryggja að greinanlegt sé að það sé búið til eða meðhöndlað með gervigreind. Gert er ráð fyrir að leggja fram frumvarp á Alþingi til innleiðingar á reglugerðinni þegar hún hefur verið tekin upp í EES-samninginn.

Í atvinnuvegaráðuneyti er unnið að innleiðingu DSA (Digital Services Act) reglugerð Evrópusambandsins. Þróunin hefur verið í þá átt að setja meiri ábyrgð á netmiðla, þar á meðal stærstu tæknifyrirtæki heims, vegna efnis sem notendur hlaða þar upp. Reglugerðin tekur einnig til þess að fyrirtækin bregðist hratt við þegar tilkynningar berast um ólögmætt efni á þeirra miðlum. DSA-reglugerðin felur m.a. í sér að alþjóðlegum tæknirisum verði skylt að framkvæma áhættumat með reglubundnum hætti til að koma í veg fyrir að hönnun og efni á þeirra miðlum stefni mannréttindum evrópskra notenda í hættu. Slíku áhættumati er m.a. ætlað að koma í veg fyrir stafrænt kynferðisofbeldi og skipulagðar upplýsingaóreiðuherferðir t.d. í tengslum við kosningar. Gerðin hefur ekki verið tekin upp í EES-samninginn, en undirbúningur að innleiðingu hennar stendur yfir í atvinnuvegaráðuneytinu.