Ko smo regulatorju prijavili sum izredno jasne kršitve neoznačevanja vsebin generativne umetne inteligence, je ta naredil več proceduralnih in interpretativnih napak, s katerimi je popolnoma izničil smisel regulacije.

Njegovo ravnanje pod vprašaj postavlja celotno logiko zakonodajnih varovalk, s katerimi se Evropska unija bori proti dezinformacijam, hkrati pa akterjem ekonomije pozornosti ponuja popoln izgovor za nadaljevanje pasivne drže.

Zanašanje na pravne varovalke pred negativnimi družbenimi vplivi dezinformacij in produktov generativne inteligence je neučinkovito zaradi nerazumljive, kaotične in kontraproduktivnega izvajanja zakonodaje s strani neodvisnega regulatorja.

Najšibkejši člen

Sodobni medijsko-komunikacijski splet je sestavljen iz dveh relativno komplementarnih elementov. Na eni strani imamo informacijske producente, ki oblikujejo in objavljajo medijska sporočila, na drugi strani pa grozd digitalnih posrednikov, ki ta sporočila dostavljajo do javnosti. Regulacija se je zaradi njihovega predznaka v zadnjem času veliko bolj osredotočila na posrednike kot na same producente, čeprav so le-ti v ekonomiji pozornosti tisto osnovno gojišče dezinformacij ter zavajanj.

Kompleksni regulacijski sistemi so močni samo toliko, kolikor je močan njihov najšibkejši člen. Pregovorna neučinkovitost samoregulacijskega označevanja izdelkov generativne umetne inteligence je bila prvi znak, da bomo tukaj potrebovali močno, konsistentno in kazensko regulacijo.

Iz preteklosti spletne ekonomije smo se že večkrat naučili, da je edini učinkovit način boja proti samoregulacijskemu zavajanju močna regulacija, ki temelji na visokih kaznih za kršitelje (GDPR, DSA). Hkrati smo že opozorili, da manjši akterji igrajo veliko vlogo pri konstrukciji in plasiranju dezinformacij, pomagajo pa jim spletni distributerji.

Od začetka letošnjega leta, ko so se začeli v praksi pojavljati prvi (samo)regulacijski ukrepi na področju označevanja in ločevanja vsebin generativne umetne inteligence od človeških intelektualnih izdelkov, smo lahko videli, kako medijska ekonomija hiperprodukcije uspešno spodkopava vse regulatorne poskuse zajezitve sintetičnih vsebin, bodisi z načrtnim odzivanjem, bodisi z neiskrenim delovanjem. Kdo je torej najšibkejši člen?

Panika, panika, panika

Blizu ameriškega Pentagona je maja 2023 eksplodirala bomba. Na družabnem spletu je zaokrožila fotografija centra ameriške vojske, kjer se je jasno videl steber črnega dima s spremnim besedilom: »Dobivamo informacije iz terena, Pentagon je utrpel terorističen napad.«

Objavo so povzeli resni mediji in uporabniki družabnega spleta s (takrat še uglednim) statusom modre kljukice in povzročili paniko na ameriški borzi, kjer sta oba glavna indeksa zaradi novic o terorističnem napadu utrpela manjši padec. Hkrati so se aktivirali uradni viri in preverjevalci dejstev ter hitro objavili pojasnilo, da ni nikakršnih dokazov o napadu na Pentagon ter da gre za izmišljotino. Od prvih objav do uradnih pojasnil in zanikanj je preteklo slabih deset minut.

Nekaj podobnega se je januarja 2024 zgodilo v Evropski uniji. Po družabnih omrežjih je zaokrožil umetno ustvarjen posnetek požiga Eifflovega stolpa v Parizu. Posnetek je leto prej ustvaril armenski oblikovalski studio z namenom promocije svojega portfelja in jo pravilno označil kot sintetično vsebino, po novem letu pa so jo najprej delili predvsem TikTok uporabniki, kjer je glavno delo distribucije opravil vsebinski algoritem na tem omrežju.  

Do širše panike je prišlo, ko je objava iz TikTok omrežja »preskočila« na omrežje X. Razlog zato je bila kombinacija treh faktorjev – plačevanje ogledov posameznih objav, zanikanje resničnosti dogodka in neučinkovit mehanizem t.i. »skupnostnih obvestil«, ki so prepočasi pojasnila ozadje posnetka.

Časovnica dezinformacijskih kampanj

Študije dezinformacij v času pandemije, ruske invazije v Ukrajino ter analize širjenja dezinformacij po družabnih omrežjih opisujejo ključne trenutke v širjenju dezinformacij od njihove prva objave do končnega razkrinkanja oziroma upada dezinformacijskega potenciala.

Najprej so tukaj ključne prve štiri ure, ki ustvarijo informacijski vakuum. Dezinformacija v temu obdobju pridobiva na vidnosti, hkrati pojasnil oziroma odzivov še ni. Če dezinformacije odgovorni ne naslovijo v prvih dvanajstih do štiriindvajsetih urah, pride do t.i. učinka navidezne resnice, kjer ponavljanje laži občinstvo dejansko prepriča v njeno resničnost.

V času generativne umetne inteligence je ta proces še pridobil na hitrosti. Ker smeti generativne umetne inteligence dejansko ni mogoče preveriti oziroma so končni rezultati vedno boljši, hkrati pa lahko ustvarjalci z enostavnim procesom izpopolnjevanjem končnega izdelka poskrbijo za še večjo prepričljivost ter pri občinstvu sprožijo še hujšo čustveno reakcijo.

Rdeča zvezda dezinformacij

Uspešna dezinformacijska kampanja je sestavljena iz večih elementov: izkorišča čustveno ranljivost ciljne skupine, uporablja prepoznavne stereotipe ter se napaja z algoritemskim urednikovanjem vsebin družabnega spleta.

Evropska unija se je zato tega problema lotila z večimi regulatornimi sklopi, ki naslavljajo tako producente medijskih vsebin, distribucijska omrežja, pa tudi občinstvo. Delitev odgovornosti za deaktivacijo posameznih elementov dezinformacijskih kampanj naj bi izboljšalo končni rezultat boja proti dezinformacijah, a je v praksi preplet ukrepov na široko odprl problem parcialnega nadzora in prelaganje odgovornosti med akterji.

Zgornje sistemske probleme lahko enostavno predstavimo na še enem primeru neučinkovite regulacije neoznačenih vsebin generativne umetne inteligence, ki je opozoril na nove problematične prakse regulatorja v Sloveniji.

Nekaj ur po objavi Nova24TV je medijski inšpektor prejel našo prijavo suma kršitve neoznačevanja produktov generativne umetne inteligence in jo dva dni kasneje predal Agenciji za komunikacijska omrežja in storitve Republike Slovenije, ki je zadolžena za izvajanje regulacije na tem področju.

Agencija je iz nerazumljivega razloga z začetkom postopka čakala 79 dni. Nato je 31. 7. 2026 obvestila Nova24TV o začetku postopka in ga obvestila, da krši zakon.  Uredništvo medija se je odzvalo 11. 8. 2026 in Agencijo obvestilo, da je kršitev zakona odpravilo ter korektno označilo fotografijo, Agencija pa je 21. 8. 2026 zaključila primer z ustavitvenim sklepom.

Regulator na počitnicah

Primer razkriva več sistemskih napak izvajanja zakonodaje, ki je namenjena ščitenja uporabnikov pred dezinformacijami in preprečevanju zlorab produktov generativne umetne inteligence v propagandne namene.

Najprej je tukaj skoraj tromesečna pavza med prijavo in začetkom postopka, ki je regulator v odgovoru ni pojasnil. Kot smo že pojasnili, je hitra reakcija na prijavo dezinformacij eden od ključnih ukrepov pri uspešni zamejitvi njihovega negativnega družbenega učinka.

Če bi to dejansko storila, bi hitro ugotovila, da »nenamerni uredniški spregled« preprosto ne vzdrži resne presoje. Uredništvo medija svojega članka namreč ni našlo in prevedlo iz izvirnega nemškega vira, temveč je brez preverjanja povzelo objavo z anonimnega profila na omrežju X (uporabnik Neonultra14), ki je strojni prevod starega članka objavil dva dni pred tem.

To potrjujejo tudi izvor in edinstvenost sintetične fotografije, saj slike, ustvarjene z umetno inteligenco, pred tem ni mogoče najti nikjer na spletu, prav tako je ni mogoče najti v izvirnem prispevku revije Spiegel. Ker je bila objavljena izključno na omenjenem profilu, je jasno, da jo je uredništvo prevzelo tam.

Na zavestno ravnanje opozarjajo tudi identične okorne besedne zveze ter neposreden prenos strojnih prevodov iz objave na omrežju X v članek medija Nova24TV, kot so »Cena na kos«, »Titove dežele« ali »Jugo-dojenčki«, ki bi jih vsak resen novinar in urednik popravila. Navsezadnje je celoten postopek – od izbire obskurnega vira na omrežju X, kopiranja in minimalnega prilagajanja besedila do umestitve neoznačene sintetične fotografije – zahteval več zaporednih in zavestnih korakov, v katerem je »nenamerni uredniški spregled« nemogoč.

Hkrati je presenetljivo, da je regulator sploh upošteval priznanje nesposobnosti izvajanja uredniške funkcije. Zakon o medijih (ZMed-1) v 7. členu namreč izrecno določa odgovornost odgovornega urednika za vsako objavljeno informacijo. Sklicevanje na lastno malomarnost oziroma tako imenovani uredniški spregled regulator ne bi smel upoštevati za veljaven razlog izogibanja prekrškovni odgovornosti in sankcijam.

Uredniško priznanje, da medij brez vsakršnega preverjanja objavlja strojne prevode z obskurnih anonimnih profilov skupaj z neoznačeno umetno inteligenco, ne predstavlja odprave sistemske težave, temveč kvečjemu neposredno potrjuje kršitve zakonskih obveznosti in obrtniške nesposobnosti opravljanja osnov novinarskega posla.

Ekonomija izgovorov

Dezinformacije v osnovi niso predmet digitalne, temveč medijske zakonodaje. Spoštovanje novinarskih standardov in zavez o označevanju oglaševalskih in sintetičnih vsebin bi se moralo začeti in končati s samoregulacijskimi zavezami industrije, saj bi ta sama od sebe ugotovila, da resnična medijska ekonomija stoji in pade na osnovi zagotavljanja resničnih, preverljivih in relevantnih informacij.

Ker se to v praksi ni zgodilo in ker so producenti ugotovili, da ekonomija pozornosti cveti ravno z dezinformacijami, smo dobili zakonske varovalke, ki so to »prosto tržno pobudo« skušale zamejiti s pravili o označevanju ter javnemu komuniciranju različnih tipov vsebin.

Sedaj vidimo, da se regulator svojim obveznostim izogiba in da medijski producenti izkoriščajo lastno nesposobnost kot razlog za očitne kršitve medijske zakonodaje na področju dezinformacij. V tej ekonomiji izgovorov bo tako najkrajšo potegnil medijski potrošnik, ujet med nakovalo regulatorja v službi industrije in kladivo dezinformacijskih operacij.

Duh regulacije je mrtev

Primer pokopava regulacijo označevanja vsebin generativne umetne inteligence, še preden se je to dobro začelo. Regulator namreč založnikom sporoča, da bodo prijavo spornih vsebin najprej zamaknili za nekaj mesecev, ko je njihov dejanski komunikacijski doseg že zdavnaj mimo, nato pa kršiteljem podelili odpustek zgolj na podlagi samooklicanega »nenamernega uredniškega spregleda« in pozne naknadne označitve. 

Takšna praksa ustvarja neustrezno spodbudo: medijem se namreč splača neovirano izkoristiti celoten komunikacijski in manipulativni potencial neoznačene dezinformacije v prvih dneh, ko se ta bliskovito širi po družbenih omrežjih, saj so sankcije dejansko nične, če kršitev kasneje, ko je doseg že zanemarljiv, preprosto popravijo. 

Z zmotnim enačenjem inšpekcijske odprave napake brez izreka kazni za prekršek regulator neposredno uničuje odvračilni učinek 66. člena Zakona o medijih. S tem namesto zaščite javnega interesa vzpostavlja sistem, v katerem se ignoriranje zakonodaje splača, odgovornost pa se briše z administrativnim zamahom roke.

Časa za popravne izpite zmanjkuje

Učinkovito odpravljanje škodljivih posledic dezinformacij se začne in končna pri precedenčnih odločitvah nadzornikov, s katerimi trgu sporočajo, kako oni razumejo svojo vlogo in kako berejo zakonske varovalke. Ko industrija vidi, da regulator z izjemno prozornimi izgovori dobesedno išče razloge za nekaznovanje, je igre konec.

Če smo v prvem primeru popisali naravnost škodljivo regulatorsko branje medijske zakonodaje in sklicevanje na podzakonske akte, lahko v zgornjem primeru temu dodamo še popolno nerazumevanje področja dezinformacij, njihovega vpliva na družbo in dinamiko širjenja.

Regulator tako na široko odpira vrata medijskega poligona za širjenje dezinformacij, zlorabljanje ekonomije izgovorov pa nakazuje še en regulatorni pogreb. Ne zato, ker bi se praksa tako razlikovala od pravne teorije, temveč zato, ker regulator ne razume problema, ne razume varovalk in ne razume lastne vloge pri zaščiti javnega interesa.