Na spletu naletite na izreden video-posnetek. Medved podre ograjo na vrt, kjer se igra otrok. Naenkrat pred otroka skoči domači maček in napade medveda. Medved se taktično umakne, maček pa tako reši otroka pred grozljivo smrtjo. Posnetek dejansko obstaja in ima v vseh svojih različicah več milijonov spletnih ogledov.  Obstaja samo ena težava – posnetek je produkt generativne umetne inteligence.

Amnesty International je leta 2023 za svojo kampanjo proti nasilju nad protestniki v južnoameriški Kolumbiji uporabil fotografije priprtih protestnikov, ki jih je naredila generativna umetna inteligenca. Slike so nastale na podlagi dejanskih pričevanj ljudi na terenu, a so kritiki prakso obsodili in opozorili, da se z njo briše meja med zgodovinsko resnico in izmišljotino. Praksa je še posebej problematična na relativno zaprtih območjih, kjer drugih virov o dogajanju ni.

Hitro lahko ugotovimo, da je zaenkrat edina dejanska varovalka pred negativnimi učinki poplave izdelkov generativne umetne inteligence njihovo dosledno in iskreno označevanje. Oznaka namreč vsaj v teoriji sporoča uporabniku, da gleda fantastične prizore in ne dokumentarnega filma.

Med iskrenimi ljudmi

Tako problem razume in ga posledično rešuje tudi trenutna evropska zakonodaja na temu področju. Ena od ključnih rešitev transparentne uporabe generativne umetne inteligence je jasno in nedvoumno označevanje njenih produktov (slika, besedilo, video in animacije). Akt EU o umetni inteligenci (AI Act) namreč neoznačene izdelke generativne umetne inteligence razume kot srednje tveganje, kršenje določil pa prinaša visoke, večmilijonske, kazni.

Praktična uporaba generativne umetne inteligence se medtem hitro širi in polni vse kotičke javnega komuniciranja. Založniki z njo ustvarjajo naslovnice knjig in revij, producirajo televizijske in radijske oglase ter izdelke generativne umetne inteligence vključujejo v multimedijske predstavitve.

Dogaja se tudi po-uporaba – izdelki generativne umetne inteligence iz enega vira avtorji na različne načine vključujejo v lastne produkcije in tako generativni umetni inteligenci podaljšujejo življenje, hkrati pa ustvarjajo nove problematične situacije.

Vprašanje jasnega označevanja elementov generativne umetne inteligence tako postaja vedno bolj zapleteno in odvisno tudi od odločb (samo)regulacijskih organov, ki skrbijo za izvajanje kodeksov in zakonodaje na temu področju.

Generativna umetna inteligenca in medijska praksa

Ena od najbolj problematičnih uporab generativne umetne inteligence je uporaba v množičnih medijih in komunikacijskih kampanjah, kjer je zavezanost k resnici ena od osnovnih funkcij. Slovenska medijska praksa od zakonskih in samoregulatornih zapovedi zaenkrat ni čisto poenotena.

Praktično vprašanje po-uporabe

Tednik Demokracija v oglasih poudarja, da »boste z Demokracijo vedeli več!« in že dlje časa uporablja generativno umetno inteligenco za poceni in enostavno ustvarjanje svojih naslovnic tiskane izdaje. Na njih se praviloma negativno prikazuje njihove politične nasprotnike in se jih s pomočjo generativne umetne inteligence prikazuje v fantazijskih scenarijih.

Razsodišče je potrdilo naš sum

Pri prijavljanju suma kršitve v zgornjemu primeru smo se oprli na veljavno zakonodajo in samoregulacijski kodeks Slovenske oglaševalske zbornice. Zakonodaja v Zakonu o medijih (ZMed-1) v svojem 66. členu v prvem odstavku zapoveduje jasno prepoznavanje in označevanje izdelkov generativne umetne inteligence, oglaševalski Kodeks Slovenske oglaševalske zbornice pa v svojem 28. členu priporoča nekaj podobnega.

Medtem, ko na odločitev Agencije za komunikacijska omrežja in storitve RS še čakamo, lahko danes že beremo odločitev Slovenskega oglaševalskega razsodišča, ki je odločil, da je v prijavljenemu sumu dejansko šlo za kršitev določil o jasnem prepoznavanju in označevanju generativne umetne inteligence.

Predsednik razsodišča med drugim zapiše, da »Razsodišče zato ocenjuje, da dejstvo, da je podoba v tiskani izdaji oziroma na spletni strani označena kot ustvarjena z umetno inteligenco, ne more nadomestiti manjkajoče oznake v televizijskem oglasu. Pomembno je, da ima gledalec to informacijo ob zaznavi samega oglasa, saj lahko le tako pravilno razume naravo prikazane vsebine. Še posebej to velja pri fotorealistični podobi, ki je po svoji vizualni zasnovi sposobna ustvariti vtis, da gre za fotografijo resničnega dogodka.«

Odprt je nov predal Pandorine skrinjice

Primer po eni strani dokazuje pravilnost našega razmišljanja, a hkrati odpira novo vprašanje iz uvoda tega prispevka – dokazovanje izvora. Večkrat opevana kritičnost in samoreflektivnost medijskega uporabnika, ki naj bi z znanjem in natančnim pogledom sam ugotovil, kdaj gleda sintetiko in kdaj resnico, je že zdavnaj samo še historičen spomin.

Z vedno boljšimi modeli generativne umetne inteligence in vedno bolj prefinjeno uporabo bo dejansko dokazno gradivo za uporabo prišlo samo iz dveh virov. Bodisi bodo modeli generativne umetne inteligence sami razvili sistem neprebojnega označevanja svojih izdelkov, bodisi bodo to storili uporabniki sami.

V primeru, da se ne bo zgodilo ne eno ne drugo, bomo občinstva množičnih medijev tako prepuščeni medijski sintetiki, kjer se medvedi borijo z mačkami, predsednice pa pijejo šampanjec med divjo vožnjo po avtocesti in kjer realnost ni nič drugega kot samo še ena interpretacija.