Eno od ključnih vprašanj dobe generativne umetne inteligence (GUI) je avtorstvo sintetičnih vsebin. Na področju avtorske pravice imamo na globalni ravni že kar nekaj sodnih primerov, kjer so sodišča odločila, da GUI ne more biti podpisana kot avtor in da je to “samo” orodje v rokah človeka. 

Označevanje vsebin generativne umetne inteligence je na področju medijev jasno opredeljeno tudi v novem Zakonu o medijih (ZMed-1), kjer zakonodajalec sintetične vsebine definira kot programske vsebine, ki jih je ustvaril stroj in jih ni mogoče zlahka razločiti od vsebin, ki jih ustvarijo ljudje. 

Hkrati medijskim lastnikom narekuje strogo označevanje programskih vsebin, ustvarjenih z GUI, ki morajo biti jasno prepoznavne in posebej ločene od drugih programskih vsebin. 

Odgovor na vprašanje odgovornosti

S tem zakonodajalec razrešuje dilemo odgovornosti za vsebine. Če je GUI “samo” kladivo, ne pa tudi kipar, potem je odgovornost za nastali rezultat pri človeku, ki je sisteme GUI uporabil za ustvarjanje medijskih vsebin. 

Človek mora namreč sistemu GUI z ukazi najprej podati opis vsebine, za katero hoče, da jo GUI izdela, ji podati smernice glede videza vsebine in nato zadevo uredniško pregledati ter objaviti. Poganjanje ukazov, morebitne korekture in spremembe ter končna objava na spletišču je torej še vedno prepuščeno človeku. 

Namen varovalke je torej jasen. Četudi bi določen izdajatelj večino novinarskega, fotografskega oziroma uredniškega dela preložil na sisteme GUI, je končna odgovornost še vedno pri človeku, ki je podpisan kot odgovorni urednik. Hkrati lahko v zakonski podlagi jasno vidimo, da gre pri obeh tipih vsebin za programske vsebine in da torej tip avtorja ne spremeni tipa vsebine. 

Prvi slovenski “AI medij”

V slovenski medijski krajini obstaja spletni medij Pokukaj24.si, ki izgleda kot klasično novičarsko spletišče. V razvidu medijev ga najdemo pod zaporedno številko 2669, izdajatelj je Zavod Pokukaj, ustanova za izvajanje informativnih ter kulturno-razvedrilnih dejavnosti.

Uporabnik na spletišču najde svetovne in lokalne novice, opremljene s fotomaterialom in dopolnjeno z vsebinami družabnega spleta, ki jih avtorji objavljajo v časovnem zaporedju v različnih vsebinskih kategorijah. Na prvi pogled se zdi, da gre za klasičen spletni medij, a se ob natančnemu pregledu izkaže, da nobeden od objavljenih prispevkov ni podpisan, hkrati niso podpisane niti fotografije. 

Na dnu spletišča najdemo povezave do več podstrani. Najprej lahko na podstrani z naslovom “Pravila uporabe in pravni poduk” najdemo zaveze o točnosti informacij, kjer avtorji zapišejo, da “Pokukaj24.si pri raziskovanju, pripravi besedil, strukturiranju informacij ter ustvarjanju in obdelavi vizualnih vsebin intenzivno uporablja orodja umetne inteligence. Umetna inteligenca je produkcijsko orodje. Uredniško odgovornost za objavljeno vsebino nosita medij in odgovorni urednik v skladu z veljavno zakonodajo,” nato pa na podstrani “AI smernice” še pojasnilo, da  “je večina besedil in velik del vizualnih vsebin na Pokukaj24.si ustvarjenih s pomočjo umetne inteligence, pogosto v zelo velikem obsegu. Pri številnih objavah AI opravi približno 90 % končnega produkcijskega dela.“

Opazimo lahko torej sum večkratne kršitve medijske zakonodaje. Najprej je pri nepodpisanih prispevkih tukaj sum kršitve 5. člena ZMed-1, ki govori o obveznemu podpisovanju novinarskih prispevkov, nato pa še sum kršitve 66. člena ZMed-1, ki izdajateljem narekuje jasno podpisovanje in ločevanje programskih vsebin, ustvarjenih z GUI od vsebin, ki jih je v celoti ustvaril človek. 

Halo, inšpektor?

Zakon o medijih (ZMed-1) v petem odstavku 5. člena jasno navaja obveznost avtorstva prispevka, kjer je prepovedano podpisovanje z izmišljenimi avtorji oziroma neobstoječimi besedami, skladnost prakse pa ugotavlja inšpektorat RS za medije. 

Inšpektorja smo v prijavi suma posebej opozorili na pomembnost njegove odločitve, saj bi nesankcioniranje nepodpisanih prispevkov ogrozilo novinarsko in uredniško avtonomijo, ki bi z dovoljenim anonimiziranim objavljanjem programskih vsebin v registriranih medijih na široko odprlo vrata anonimkam, ne da bi zanje kdorkoli prevzel odgovornost. 

Na našo prijavo suma kršitve zakonodaje, da na spletnem mediju pokukaj24.si ni podpisan niti en prispevek, medijski inšpektor odgovarja: “Po pregledu vsebine prijave sem ugotovil, da ne gre za primer novinarskega prispevka, ampak za programsko vsebino, ki je bila delno ali v celoti ustvarjena s sistemi generativne umetne inteligence, zato v konkretnem primeru ne gre za kršitev petega odstavka 5. člena ZMed-1, ampak za kršitev določbe prvega in drugega odstavka 66. člena tega zakona.“

Inšpektor tukaj stori več procesnih napak. Začnimo z njegovo ugotovitvijo sintetičnosti vsebin. Ni jasno, kako je inšpektor ugotovil, da ima pred seboj vsebine, ki jih je ustvarila GUI in ne človek. Edina oznaka so namreč pavšalne AI smernice, kjer pa ne piše, da so sintetične VSE vsebine spletišča.

Nato je inšpektor v nasprotju z veljavno zakonodajo ugotovil, da vsebine GUI niso oziroma ne morejo biti novinarske vsebine, nato pa na podlagi te ugotovitve sklenil, da zanje ne veljajo določila medijske zakonodaje. 

Veljavna medijska zakonodaja definicije “novinarskih” vsebin ne pozna, temveč govori o “programskih” vsebinah, ki jih definira kot “posamezno poljubno dolgo, uredniško oblikovano zaključeno enoto v mediju, ki je v besedilni, slikovni, avdio ali video obliki ali kombinacija navedenih oblik in jo oblikuje izdajatelj, ki je zanjo uredniško odgovoren.” Novinarske prispevke omeni samo v členu o obveznem podpisovanju, kjer jih na tak način loči od drugih programskih vsebin (oglasi, osmrtnice… ) ter s tem zameji obvezo podpisovanja.

Inšpektor se torej sklicuje na nedefinirano podmnožico “programskih vsebin”, ki hkrati “niso novinarski prispevki”, pri tem pa pozablja, da vsebine na registriranem spletnem mediju pokukaj24.si delujejo kot novinarski prispevki, se berejo kot novinarski prispevki in jih njihovi producenti opisujejo ter razumejo kot novinarske prispevke. Nejasno je torej, zakaj inšpektor čuti potrebo po ločevanju teh dveh podmnožic, če sami avtorji spletišča pokukaj24.si na večih mestih priznavajo, da je namen spletnega mesta infomiranje splošne javnost z novinarskimi vsebinami. 

Hkrati s črkobralstvom preskoči glavno poanto izločanja in zapovedanega označevanja vsebin GUI, saj je ravno ta neločljivost razlog za varovalko, ki naj bi vsaj v teoriji medijskem občinstvu sporočila razliko med človeškim in sintetičnim delovnim procesom. 

Pandorina skrinjica

Taka interpretacija različnih tipov programskih vsebin odpira novo Pandorino skrinjico medijske regulacije v času generativne umetne inteligence in ruši celotno logiko obrambe pred dezinformacijam, propagandi ter zavajajočim vsebinam. 

Najprej je tukaj netransparentno ugotavljanje sintetičnosti vsebin, ki uporabnike GUI pušča v sivi coni milosti in nemilosti oblasti.

K temu lahko dodamo problem vedno boljše GUI v “oponašanju” človeškega dela, kjer sistemi za zaznavanje GUI niso natančni oziroma jih je zelo enostavno zaobiti. Uredniška zaveza k spoštovanju zakonodaje in dosledno izvajanje zakonodaje je torej edina dejanska varovalka pred sintetično poplavo na spletu.

Podpisovanje novinarskih prispevkov je ena od ključnih pravnih varovalk prevzemanja odgovornosti za medijske vsebine. Če se lahko izdajatelji tej odgovornosti odpovedo s preprostim zapisom, da gre pri vsebinah registriranega medija za produkt GUI, potem lahko s tem neovirano širijo problematične vsebine brez odgovornosti zanje. 

Poleg tega gre že za drugi primer, kjer smo ob prijavi suma kršitve vključili tudi relativno dobro transparentno delovanje samih kršiteljev. Spomnimo se samo primera neoznačevanja oglasov na Radio Ognjišče, kjer smo prijavi priložili izjavo poslanske skupine EPP o zakupu oziroma aktualni primer medija pokukaj24.si, kjer avtorji sami priznavajo široko uporabo generativne umetne inteligence. Če teh dveh dokazov ne bi imeli, bi bilo samo dokazovanje suma kršitve veliko težje, saj bi se lahko z izdajatelji zapletli v neskončen dialog o tem, kaj oni dejansko počnejo in česa ne.

K temu lahko dodamo že ugotovljeno problematičnost “nenamernega uredniškega spregleda“ neoznačevanja sintetičnih vsebin in zaključimo, da Slovenija kmalu postala oaza GUI, kjer sintetične vsebine ne bodo problem, pa ne glede na to, kdo jih ustvari oziroma s kakšnim namenom.