Tereza Buconić (Sveučilište u Dubrovniku, DU Check), Tomislav Levak (Akademija za umjetnost i kulturu, Osijek, VerifEye), Josip Šipić (libela.org, CESI, Zagreb, Gender Fact), Marija Slijepčević (VERN, Zagreb, TurFacto) i Danira Matijaca (Medicinski fakultet Sveučilišta u Splitu, MedLitmus) uz moderaciju Luke Šipića (Vrh komunikacije) prisutnima su objasnili pojam umjetne inteligencije, kao i njegove produkte poput deepfake tehnologije. Također, naglasili su važnost medijske pismenosti u borbi protiv dezinformacija, kao i nužne vještine u digitalnom dobu.

Cilj okruglog stola bio je istražit trenutačno stanje i buduću putanju deepfake tehnologije, ispitati njezin dubok utjecaj na društvo i sigurnost te predstaviti najnovije alate i metode za detekciju.

Na samome početku, sudionici su predstavili svoje projekte i domenu rada unutar samih fact-checking projekta publici. Uz navedeno, spomenuli su i važnost procesa provjere informacija u današnjem društvu u kojemu su društvene mreže i digitalna tehnologija postale izuzetno važni alati u procesu informiranja. Provjera informacija (fact-checking) temelj je odgovornog informiranja građanstva te ključni alat u borbi protiv dezinformacija, lažnih vijesti te drugog manipulativnog i obmanjujućeg sadržaja.

Kroz raspravu u okviru okruglog stola, panelisti su se dotaknuli primjera upotrebe deepfake tehnologija u negativne svrhe, odnosno kao manipulativno sredstvo te u pozitivne, to jest kao sredstvo unapređenja određenih kampanja i sadržaja. Marija Slijepčević istaknula je kako u domeni turizma nije toliko riječ o pravim deepfakeovima koliko o lažnom predstavljanju destinacije. Dakle, sadržaji jesu generirani, koriste se razne tehnike umjetne inteligencije, ali nije u znanstvenim niti stručnim izvorima naišla na stvaran primjer korištenja deepfakea u turizmu. Međutim, da postoje primjeri manipulacije - istaknuvši primjer Turističke zajednice Makarske koja je koristila fotografije plaža koje nisu snimljene u Hrvatskoj, već preuzete i prepravljene pa potom javnosti predstavljene kao autentične fotografije Hrvatske obale. U turizmu ipak nije riječ o sofisticiranim deepfakeovima, nego o klasičnim manipulacijama vizualnim sadržajem. Da bi se dogodila stvarna kampanja deepfakeova u turizmu, trebala bi postojati strategija na razini informacijskog ratovanja – netko bi morao platiti da se napadne konkurentska destinacija.

Deepfake tehnologija ne mora biti nužno sredstvo manipulacije i zloupotrebe, već postoje i primjeri korištenja deepfakea u edukativne i umjetničke svrhe s ciljem produbljivanja znanja društva o određenoj tematici. U okruglom stolu, kao odličan primjer istaknuta je Danska koja je oblikovala kampanju kojom je upravljala umjetna inteligencija, odnosno kroz kampanju su “oživjeli” klasična djela likovne umjetnosti. Počinje s Mona Lisom, koja govori o planu putovanja i o tome kako tisuće ljudi dolaze da bi je vidjeli s udaljenosti od 50 metara, i tako se niz velikih umjetničkih djela oživljava. Također, još jedan od primjera koji je spomenut su dokumentarci ili videozapisi u kojima su uz pomoć deepfakea oživljene važne povijesne ličnosti s ciljem lakšeg razumijevanja važnosti njihovih dijela za današnje društvo.

Ključne teme rasprave:

Prepoznavanje sadržaja kreiranog od strane umjetne inteligencije: Građani starije životne dobi teže prepoznaju sadržaj koji je oblikovan uz pomoć umjetne inteligencije.
Manipulacija uz pomoć deepfake tehnologije: Deepfake tehnologija se često koristi za manipulaciju informacijama te pogrešno predstavljanje.
Povjerenje javnosti u medijski sadržaj i izvore informacije: Čak i kada je sadržaj jasno označen kao generiran, javnost često ostaje skeptična, osobito kada su u pitanju političke ili ideološke teme.
Pozitivne primjene deepfake tehnologije: Deepfake tehnologija nije nužno negativan i manipulativan alat ako se koristi transparentno i etično.

Zaključci s okruglog stola:

Važnost medijske pismenosti: Postoji stvarna potreba za razvojem sveobuhvatne strategije medijskog opismenjavanja, osobito među ranjivim skupinama poput djece, starijih osoba i građana slabijeg digitalnog kapaciteta.
Manipulacija sadržajem može narušiti funkcionalnost društva: Korištenje alata umjetne inteligencije s ciljem zavaravanja javnosti ili njezine manipulacije može negativno utjecati na funkcioniranje društva, njegovo stanje, kao i demokratske procese.
Postoje pozitivne i korisne primjene deepfake tehnologije: Deepfake tehnologija je alat koji se može koristiti u pozitivne i negativne svrhe.

Prijedlozi za daljnje postupanje:

Razvoj edukacija i radionica medijske pismenosti: Medijska pismenost spoj je vještina koje su pojedincu nužne u vremenu u kojem su glavni izvori informacija postale društvene mreže, a sadržaj se širi izuzetnom brzinom.
Jasno označavanje sadržaj: Sadržaj oblikovan uz pomoć alata umjetne inteligencije treba biti jasno označen kako ne bi publiku doveo u zabludu.
Provjera informacija i izvora: Provjera izvora informacija, jednako kao i sadržaja, od strane konzumenta sadržaja, odnosno javnosti potrebna je sve više s obzirom na porast sadržaja koji obiluje dezinformacijama, lažnim vijestima i teorijama zavjere.

Deepfake tehnologija - izazovi, prijetnje i prilike - tko kontrolira stvarnost?

Vezano