UNESCO upozorava: Generativna umjetna inteligencija ugrožava sjećanje na Holokaust

Izvješće upozorava da generativna umjetna inteligencija ne samo što može omogućiti zlonamjernim akterima širenje dezinformacija i narativa potaknutih mržnjom, već također može nenamjerno izmisliti lažni ili obmanjujući sadržaj o Holokaustu.

„Ako dopustimo da se užasne činjenice o Holokaustu razvodne, iskrive ili falsificiraju kroz neodgovorno korištenje umjetne inteligencije (AI), riskiramo eksplozivno širenje antisemitizma i postupno slabljenje našeg razumijevanja uzroka i posljedica tih zločina. Provedba UNESCO-ve 'Preporuke o etici umjetne inteligencije' hitna je kako bi mlađe generacije odrastale s činjenicama, a ne s izmišljotinama,“ upozorila je Audrey Azoulay, glavna direktorica UNESCO-a.

Naime, u izvješću, objavljenom u partnerstvu sa Svjetskim židovskim kongresom (World Jewish Congress), UNESCO objašnjava kako učenici sve više koriste generativnu umjetnu inteligenciju za pisanje zadataka i pronalaženje informacija na internetu, izlažući se riziku izobličenih informacija o Holokaustu, koje se putem AI sadržaja šire na nove načine. S obzirom na to da četiri od pet mladih ljudi između 10 i 24 godine (80%) svakodnevno koriste umjetnu inteligenciju za obrazovanje, zabavu i druge svrhe, potrebno je brzo djelovati kako bi se etički usmjerile ove nove tehnologije.

AI upija sve - i točno i netočno

Generativna umjetna inteligencija mora biti obučena pomoću ogromne količine podataka. Ti podaci često potječu s interneta i mogu uključivati obmanjujući ili štetan sadržaj. Tako AI sustavi nasljeđuju ljudske predrasude, potencijalno iskrivljujući informacije o određenim događajima i pojačavajući predrasude. Ovo je osobito problematično u kontekstu Holokausta, zbog raširenosti dezinformacija o ovom događaju. Izvješće navodi da, zbog nedostatka nadzora, smjernica i moderiranja od strane AI programera, alati generativne umjetne inteligencije mogu biti obučeni na podacima s web stranica koje negiraju Holokaust.

Također je dokumentirano kako umjetna inteligencija omogućuje zlonamjernim akterima da iskrive sadržaj vezan uz Holokaust, stvarajući lažna svjedočanstva i čak mijenjajući povijesne zapise. Deepfake slike i audio sadržaji koje generira umjetna inteligencija posebno su uvjerljivi mladima, koji ih mogu susresti na društvenim mrežama. Aplikacija „Historical Figures” omogućila je korisnicima da razgovaraju s istaknutim nacistima poput Adolfa Hitlera i Josepha Goebbelsa, lažno tvrdeći da osobe poput Goebbelsa nisu namjerno sudjelovale u Holokaustu i da su pokušale spriječiti nasilje nad Židovima.

„Haluciniranje“ povijesti zbog nedostatka podataka

Generativni modeli umjetne inteligencije skloni su izmišljanju ili „haluciniranju“ događaja, ličnosti i čak povijesnih fenomena kada nemaju pristup dovoljnoj količini podataka. Izvješće naglašava da su ChatGPT i Googleov Bard (preimenovan u Gemini) proizveli sadržaje o događajima vezanim uz Holokaust koji se nikada nisu dogodili. ChatGPT je u potpunosti izmislio koncept „Holokausta utapanjem“, navodeći da su nacisti utapali Židove u rijekama i jezerima, a Gemini je generirao lažne citate svjedoka kako bi podržao iskrivljene prikaze pokolja tijekom Holokausta.

Osim rizika od manipulacija i „halucinacija“ koje podrivaju utvrđene činjenice i povjerenje u stručnjake, izvješće također ističe opasnosti sklonosti umjetne inteligencije da pojednostavljuje složenu povijest, privilegirajući ograničen izbor izvora i događaja. Na tražilicama koje pokreće umjetna inteligencija, 60 do 80 % najviše rangiranih rezultata slika odnosi se na jedno mjesto Holokausta, Auschwitz-Birkenau.

Provedba UNESCO-ove „Preporuke o etici umjetne inteligencije“ hitna je kako bi mlađe generacije odrastale s činjenicama, a ne s izmišljotinama.

Poziv na odlučno djelovanje

UNESCO poziva vlade da ubrzaju provedbu „Preporuke o etici umjetne inteligencije“, prvog i jedinog globalnog standarda u ovom području, koji su jednoglasno usvojile zemlje članice još 2021. godine. Ova Preporuka već se integrira u zakonodavstvo više od pedeset zemalja.

UNESCO također poziva tehnološke tvrtke da provedu njegove standarde te da preuzmu odgovornost i osiguraju da načela poput pravednosti, transparentnosti, ljudskih prava i dužne pažnje budu ugrađena u aplikacije već u fazi dizajna. U veljači 2024. je osam tehnoloških tvrtki potpisalo obvezu glavnoj direktorici UNESCO-a da će primijeniti etički pristup razvoju novih alata umjetne inteligencije.

Tehnološke tvrtke moraju blisko surađivati sa židovskom zajednicom, preživjelima Holokausta i njihovim potomcima, edukatorima, stručnjacima za antisemitizam i povjesničarima prilikom razvoja novih alata umjetne inteligencije. UNESCO također apelira na obrazovne sustave da pomognu očuvati činjenice o Holokaustu opremajući mlade ljude digitalnom pismenošću i vještinama kritičkog razmišljanja, kao i solidnim razumijevanjem povijesti ovog genocida.

Izvor: IHRA