Deepfake tehnologija: moćno oružje ratne propagande i širenja dezinformacija

Ratna propaganda vjerojatno postoji otkako postoje ratovi.

U antičkoj Grčkoj i Rimu, propaganda se je koristila za poticanje patriotizma i slavljenje vojnih pobjeda. Vitezovi su za veličanje svojih pobjeda koristili trubadure, a tijekom križarskih ratova crkva se je služila propovijedima i vjerskim tekstovima kako bi mobilizirala kršćane za borbu protiv muslimana. Prvi veći zamah ratne propagande vezuje se uz razvoj tiskarskog stroja sredinom 15. stoljeća čime je omogućena masovna proizvodnja pisanih materijala i time značajno povećana dostupnost informacija široj javnosti.

No vrhuncem ratne propagande smatra se Drugi svjetski rat; iako su tada sve sukobljene strane koristile sve dostupne medije za mobilizaciju stanovništva, održavanje morala i demonizaciju neprijatelja, nacistička je Njemačka do danas ostala primjerom kako se to radi. Filmovima, plakatima i radio emisijama vješto je širila ideje antisemitizma, njemačkog nacionalizma te veličala ratne napore.

Razvoj tehnologije i masovno širenje laži

Pa ipak, 21. stoljeće je dokazalo da prave vrhunce nismo mogli niti naslutiti – Internet i društvene mreže omogućili su globalno širenje informacija u izrazito kratkom vremenu, pa time i strelovito širenje dezinformacija (i ne samo ratnih) na golem broj ljudi.

Stručnjaci stoga već dugo upozoravaju na pojavu lažnih vijesti (fake news) te njihove dalekosežne i duboke posljedice. Lažnim se vijestima mogu produbiti političke podjele unutar zemalja, može se utjecati na izbore, širiti panika i strah te stvoriti podatno ozračje za manipulaciju, narušiti povjerenje u tradicionalne medije i legitimne izvore informacija, institucije, ugroziti zdravlje, dignuti međunarodne tenzije…

Iako volimo sebe smatrati inteligentnim bićima, pokazalo se je da nas i nije tako teško u nešto uvjeriti, osobito ako se porukama namjerno provociraju naše najdublje emocije, bilo da je riječ o strahu, točnije užasu, zgroženosti ili suosjećanju. Nikada u povijesti nismo svjedočili fenomenu sličnom masovnoj paranoji koji se je posebno rasplamsao tijekom pandemije COVID-a, niti tolikom broju teorija zavjera, pa i onih koje se je smatralo reliktima nekog drugog vremena u kojem je znanost bila još u povojima, a pismenost, pa time i edukacija „rezervirani“ samo za malobrojne.

Situacija postaje tim teža ako se uzme u obzir činjenica da su ljudi sve manje skloni čitanju, posebice dužih i kompleksnijih tekstova, a kamoli dublje istraživati materiju iz više različitih izvora. Fotografije i video-zapisi postali su osnovna sredstva za prenošenje informacija – u samo jednom pogledu ili pregledu „servira“ nam se ono što kreatori žele da prihvatimo kao „istinu“.

I tu je stupila na scenu takozvana deepfake tehnologija (deep fake bi se doslovno moglo prevesti kao „duboki lažnjak“) koju možemo zahvaliti razvoju umjetne inteligencije (artificial intelligence, AI).

Što je deepfake?

Deepfake tehnologija koristi umjetnu inteligenciju i strojno učenje kako bi stvorila vrlo uvjerljive lažne audio-vizualne materijale. Naziv „deepfake“ dolazi od kombinacije „deep learning“ (duboko učenje) i „fake“ (lažno), što ukazuje na korištenje naprednih metoda dubokog učenja za generiranje lažnih sadržaja.

Kao i svaka druga tehnologija, tako i deepfake ima svoje pozitivne i negativne strane, odnosno može, poput noža, poslužiti ili kao oruđe ili pak oružje, već ovisno o tome u čijim je rukama. U filmskoj industriji može se fenomenalno koristiti za stvaranje posebnih efekata ili čak „ubacivanje“ glumaca koji nisu ni bili angažirani. Među prvim primjerima korištenja deepfake tehnologije na filmu (ili barem njezine „inačice“, pionirskog i vrlo uspješnog pokušaja) spominje se snimanje završetka filma „Vrana“ („The Crow“) 1994. godine. Naime, glavna je uloga u filmu pripadala Brandonu Leeju, sinu Bruce Leeja, a koji je tragično poginuo na filmskom setu. Pa ipak, zahvaljujući manipulacijama na licu Chada Stahelskija koji je preuzeo njegovu ulogu, Brandon je „vraćen u život“, a film je dovršen.

Novi tip oružja u propagandnom ratu

Dakle, deepfakeovi su umjetno manipulirani audiovizualni materijali. Većina deepfake videa uključuje proizvodnju lažnog „lica“ konstruiranog pomoću umjetne inteligencije koje se spaja s autentičnim videom, kako bi se stvorio video događaja koji se nikada nije stvarno dogodio. Iako su lažni, mogu izgledati uvjerljivo i često su proizvedeni da imitiraju ili oponašaju pojedinca.

Prvi ratni primjer korištenja deepfakeova je rusko-ukrajinski rat, a kojima su se pozabavili znanstvenici s irskog sveučilišta UCC (University College Cork). Istraživači su za potrebe studije analizirali gotovo 5 000 tweetova na platformi X (bivši Twitter) u prvih sedam mjeseci 2022. godine, s ciljem ispitivanja reakcija ljudi na deepfake sadržaj te kako bi otkrili dokaze o šteti koju deepfakeovi nanose povjerenju, a o kojoj se je do tada samo teoretiziralo.

U studiji objavljenoj na Plos ONE, Istraživači ističu primjere deepfake videa kreiranih tijekom ovog rata, uključujući deepfake ruskog predsjednika Vladimira Putina koji najavljuje mir s Ukrajinom te hakiranje ukrajinske novinske web stranice kako bi se prikazala deepfake poruka ukrajinskog predsjednika Volodimira Zelenskog o predaji.

Istraživači su, među ostalim, otkrili da je svijest o korištenju deepfakeova za ratne ciljeve dovela do toga da su korisnici počeli gubiti povjerenje u stvarne, legitimne videozapise te su ih počeli smatrati lažnima.

Online rat u Gazi

Snimke krvavih beba i djece u ruševinama Gaze preplavile su društvene mreže već u prvim danima eskalacije sukoba u Gazi nakon 7. listopada te izazvale bijes javnosti koja dotad ni na koji način nije bila uključena u zbivanja na Bliskom Istoku, niti je najbolje poznavala povijest sukoba.

Unatoč upozorenjima brojnih medija diljem svijeta da je riječ o manipulaciji foto i video sadržajima, ostvaren je već tada jedan od temeljnih ciljeva ratne propagande, a to je ono odavno poznato demoniziranje neprijatelja. U samom je startu Izrael bio prikazan kao čudovišna, golema sila koja svoj bijes iskaljuje na nevinoj djeci, neovisno o tome što su ta djeca imala, primjerice, pet prstiju, prevelike uši ili spojenu odjeću (greške u generiranju AI slika).

Ruku pod ruku korištena je i strategija velikih brojeva, pa bi tako Hamasovo ministarstvo zdravstva u samo nekoliko minuta nakon svakog napada uspjelo prebrojati stotine mrtvih (čak i onih zakopanih pod ruševinama), a informacije su prenosili svjetski mediji kao činjenice. Sve je manje bilo onih koji su se pitali koja se tehnologija koristi za tako brzo prebrojavanje stradalih, a pritom i njihov točan popis prema dobi i spolu. Ti brojevi odigrali su iznimno važnu ulogu u minoriziranju i banaliziranju jezivog terorističkog napada na Izrael 7. listopada – „samo“ oko 1200 mrtvih civila (od čega je „parstotinjak“ djece) te dvjestotinjak otetih u odnosu na desetke tisuća mrtvih u Gazi od kojih je velika većina civila, posebice djece.

Poziv na linč

Svaki rat je strašan i svaki gubitak ljudskog života je strašan, ne može se govoriti o humanim ubojstvima ni u kojem scenariju, niti možemo zanijekati da stradavaju civili. Ali deepfake daje ratu još jednu dimenziju više, nadograđujući ionako tešku priču gomilama laži koje se šire velikom brzinom te nakazno deformiraju stvarnost. Korištenje deepfake tehnologije u ratnoj propagandi ne ostavlja prostor za ratni sud, niti stvara okruženje za mirovne pregovore bilo koje vrste. Ne postoji drugi cilj deepfakeova nego da se poljulja povjerenje, potaknu zgražanje i mržnja, da se kreira subjektivna naklonost prema jednoj od sukobljenih strana te tako doprinese ostvarenju vojnih i političkih ciljeva.

Teško je ne uočiti sličnosti između tradicionalnog i ovog virtualnog poziva na linč – u oba slučaja mase sude i donose presudu temeljem emocija, a ne činjenica i dokaza. One također odlučuju tko će zapravo sjediti na optuženičkoj klupi, ne libeći se proširiti je da bude mjesta za sve Židove diljem svijeta. Tako su u lipnju UNESCO i Svjetski židovski kongres upozorili na korištenje AI i deepfake tehnologije u iskrivljavanju činjenica o Holokaustu te kreiranju lažne povijesti.     

Nažalost, kao što ističu stručnjaci, međunarodno pravo ne pruža odgovarajuću zaštitu od upotrebe deepfakea kao sredstva za ometanje međunarodnih odnosa, ostavljajući velik nereguliran prostor otvorenim za iskorištavanje.

Uložite u razvoj kritičkog mišljenja

Stoga, prije nego što gorljivo stanete uz bilo koju sukobljenu stranu, izađete na ulicu, verbalno ili čak fizički napadnete nekog, pitajte se temeljem kojih informacija ste kreirali svoje mišljenje te jeste li doista poslušali sve strane? Želite li uopće čuti te je li vam na bilo koji način relevantno mišljenje Izraelaca ili bilo kojeg Židova o situaciji u Gazi ili vam je dovoljno ono što ste „doznali“ od drugih za vašu presudu? Jeste li sigurni da je sve što vam govore i prikazuju - istina?   

U svijetu u kojem živimo, možda je jedino (barem donekle učinkovito) sredstvo za obranu od laži, kritičko mišljenje. To je način razmišljanja koji uključuje pažljivo razmatranje argumenata i dokaza, uzimajući u obzir različite perspektive i logičke veze. Ukratko objašnjeno, to je obrana mozga od njegova ispiranja jer se dozvoljava sagledavanje svake situacije iz više različitih uglova, a ne da se uzima zdravo za gotovo sve što nam se (po)kaže kao „činjenica“.

U suvremenom društvu, gdje smo izloženi velikoj količini informacija, kritičko mišljenje pomaže u razlikovanju relevantnih i pouzdanih informacija od nepouzdanih i lažnih.

Prije nego što podijelite neki sadržaj koji vas je duboko uznemirio na društvenim mrežama te doprinesete širenju mržnje, ipak uložite barem malo dodatnog vremena u traženje odgovora na pitanje – je li to stvarno bilo tako ili netko želi i koristi moj bijes? Jer vaš share u ovim vremenima doista može biti smrtonosan.