Fotografija: Freepik
Srpski list Danas je početkom 2023. objavio intervju s osobom predstavljenom kao “britanski stručnjak za međunarodne poslove i sigurnost” koji je govorio o ruskom utjecaju u Srbiji i širem Zapadnom Balkanu. Smith je u intervjuu rekao da predsjednik Srbije Aleksandar Vučić “mora da shvati da priznanje nezavisnosti Kosova nije stvar kompromisa, već priznavanja realnosti”.
Prije ovog priloga, Smith je već dao dva intervjua za Al Jazeeru Balkans, a pojavljivao se i u albanskim medijima. Pojavljivanje u jednom ovakvom “ozbiljnom mediju”, kako navodi Danas, bilo je dovoljno ovom listu da povjeruje u njegovu vjerodostojnost. Za sve intervjue Smith je koristio istu fotografiju.
Fotografija koju je "Daniel Smith" koristio za intervjue
Nakon što je Danas objavio članak, čitatelji/ke su izrazili/e sumnju u Smithovu autentičnost, što je dovelo do toga da je eminentni stručnjak obrisao svoj Twitter profil, koji je služio kao njegov glavni komunikacijski kanal. Povodom ovih sumnji, Fake News Tragač (FNT), platforma za provjeru činjenica iz Srbije, sa sjedištem u Novom Sadu, analizirao je Smithovu fotografiju. Njihova analiza otkrila je da fotografija posjeduje karakteristike tipične za fotografije kreirane pomoću umjetne inteligencije (AI), posebno ukazujući na web stranicu Ova osoba ne postoji (This Person Does Not Exist).
Analiza FNT-a pojasnila je karakteristike fotografija napravljenih uz pomoć umjetne inteligencije, naprimjer, da su “fotografije s ovog sajta uvek kvadratnog oblika, a oči su centrirane tako da se njihova pozicija poklapa po horizontali i po vertikali s očima drugih likova generisanih na ovom sajtu.”
Fotografija: FNT
FNT je dodatno detaljno opisao indikatore fotografija koje je generisala umjetna inteligencija, ističući da takve fotografije često imaju apstraktne, zamućene pozadine i prikazuju greške pri uklapanju naočala, nakita, šalova i slično. Smithova fotografija, naprimjer, ima centrirane oči, iskrivljen ram naočala i zamućenje slike ispod desnog okvira naočala. Također, na vratu su primijetili čudnu izbočinu.
Ovaj slučaj naglasio je potrebu za većim oprezom među novinarima/kama i osobama koje provjeravaju činjenice diljem jugoistočne Evrope, pokazujući da umjetna inteligencija, ne samo da može da proizvede uvjerljive narative već i potpuno izmišljene identitete.
Slučaj, ne samo da upozorava na sve veći problem dezinformacija koje generiše umjetna inteligencija u jugoistočnoj Evropi već i potiče važan razgovor o sposobnosti medijskih profesionalaca/ki i šire javnosti da prepoznaju i neutrališu zamršene digitalne obmane. Također, potcrtava imperativ za novinarske i fact-checking zajednice da se prilagode i razvijaju u odgovoru na rastuću prijetnju izmišljenih narativa, osiguravajući tako integritet informacija u sve kompleksnijem digitalnom okruženju.
Evolucija umjetne inteligencije
Umjetna inteligencija (AI) obuhvata različite aspekte kompjuterskog učenja, omogućujući strojevima da obavljaju zadatke koji su obično povezani s ljudskom inteligencijom, poput čitanja, pisanja, razgovora, kreativnog stvaralaštva, igranja, analiziranja i davanja preporuka. Nedavni porast u generativnoj AI tehnologiji, uključujući ChatGPT i Bard, koji mogu kreirati sadržaj po zahtjevima korisnika/ca i koji su prikupili više od 100 miliona korisnika/ca samo u 2023. godini, gurnuo je AI u središte medijskih, etičkih i drugih rasprava. Iako je filmska industrija odavno poticala strahove vezane za umjetnu inteligenciju s filmovima poput “Terminatora” i, nedavno, “M3gan”, pojava umjetne inteligencije također izaziva zabrinutost među fact-checkerima o njezinoj ulozi u stvaranju dezinformacija – izazovu s kojim se fact-checking redakcije u jugoistočnoj Evropi sve češće susreću.
Platforme za provjeru činjenica u jugoistočnoj Evropi zabilježile su značajnu evoluciju u dezinformacijama generisanim uz pomoć umjetne inteligencije, što ih čini sve težim za razlikovanje od stvarnog sadržaja. Stefan Kosanović, s beogradskog portala Raskrikavanje.rs, istakao je napredak u tehnologijama AI, upozoravajući na velike razlike između AI generisanih videa od prije samo godinu i onih danas. Posebno je spomenuo nove softvere, kao što je OpenAI Score, ističući njihov potencijal za stvaranje hiperrealističnih videa.
“Neverovatno je na koliko realan način prikazuje životinje, prirodu, ali, recimo, i parade prepune ljudi. Mislim da je beskonačno načina na koje ovaj program može da se koristi, a jedan od njih je svakako i dezinformisanje”, rekao je Kosanović za SEE Check.
Fact-checkeri u jugoistočnoj Evropi do sada su se uglavnom fokusirali na razotkrivanje fotografija i videozapisa deepfake tehnologije kreiranih pomoću umjetne inteligencije, što je bio relativno jednostavan zadatak zbog primitivne prirode alata koji su se koristili za stvaranje takvog sadržaja.
“Do sada je ono s čime smo se susreli bilo toliko očito i nije se širilo viralno pa smo odlučili ne provjeravati te dezinformacije”, rekla je Žana Erznožnik, urednica slovenskog portala Razkrinkavanje.
Iako trenutni obujam i složenost dezinformacija koje generiše umjetna inteligencija ne izazivaju veliku zabrinutost, fact-checkeri ostaju oprezni, predviđajući porast količine i sofisticiranosti sadržaja stvorenog umjetnom inteligencijom.
“Broj ovakvih dezinformacija još je uvijek neznatan u poređenju s ‘klasičnim’ dezinformacijama, ali sudeći po trendovima, to neće ostati tako”, primijetio je Rašid Krupalija, urednik sarajevskog Raskrinkavanja.
Međutim, određivanje tačnog udjela tekstualnih dezinformacija koje generiše umjetna inteligencija ostaje problematično.
“Razlikovanje između sadržaja generisanog umjetnom inteligencijom i pravog sadržaja postaje gotovo nemoguće”, izjavio je Feđa Kulenović, stručnjak iz područja informacijskih nauka iz Sarajeva.
“U nekim slučajevima, kod audio i video zapisa, možemo te neke stvari vidjeti, pogotovo kad je loše urađen prompt, ali sve to postaje vrlo opasno. Neka je možda sreća u našem neznanju; nismo svjesni da ima toliko tih informacija pa nismo toliko uplašeni”, pojasnio je Kulenović.
Partijanje s papom
Kao što se vidi na primjeru Daniela Smitha, AI se može koristiti za uspostavljanje i zloupotrebu kredibiliteta. Popularna upotreba deepfake videa u regiji je za promociju zdravstvenih preparata kroz krađu identiteta. Prevaranti primjenjuju jednostavnu, ali efikasnu strategiju: identifikuju ugledne ili popularne osobe i kreiraju lažne videozapise u kojima ih prikazuju kako promovišu njihove proizvode.
Ova manipulacija cilja širok spektar javnih ličnosti, uključujući liječnike, političare, folk-pjevače i TV voditelje, iskorištavajući njihov kredibilitet za promociju proizvoda sumnjive kvalitete. Prevare koje su iskoristile lik hrvatskog predsjednika Zorana Milanovića za krađu identiteta također su zabilježene 2024. godine. Osim komercijalne zloupotrebe, sposobnosti umjetne inteligencije protežu se do potkopavanja autoriteta i narušavanja reputacije pojedinaca/ki, organizacija ili ideologija.
“Ono što je evidentno jeste da su ‘na udaru’ onih koji kreiraju i šire ovakvu vrstu obmanjujućeg sadržaja najčešće politički lideri, svjetski zvaničnici i osobe iz javnog života za koje se vežu dezinformacije o njihovom hapšenju, određenim prestupima ili nedoličnom/devijantnom ponašanju. To možemo ilustrovati fotografijama i deepfake videima koji su se odnosili na američkog predsjednika Joea Bidena, kao i njegovih prethodnika Donalda Trumpa i Baracka Obame, te ukrajinskog predsjednika Volodimira Zelenskog, papu Franju…”, rekla je za SEE Check Jelena Jovanović, izvršna urednica podgoričkog Raskrinkavanja.
U jednom upečatljivom primjeru, aktivistica Greta Thunberg lažno je prikazana kako zagovara upotrebu “veganskih bombi” u oružanim sukobima. Slično, još jedna izmišljotina prikazuje papu Franju kako se zabavlja i ljubi s djevojkom.
Fotografija: Faktoje.al, Facebook screenshot
Ovakve izmišljotine mogle bi se odbaciti kao bezazlene šale da je publika bolje obučena u prepoznavanju lažnih fotografija. Početni pokušaji humorističnog sadržaja, kao što su videozapisi generisani umjetnom inteligencijom gdje se tvrdi da milijarder Elon Musk potječe iz Republike Srpske, iskazuje svoju ljubav prema Srbiji i da je svoju Teslu zamijenio Golfom 2, neki su uzeli zdravo za gotovo. Iako su mnogi/e korisnici/e društvenih mreža shvatili/e šalu, nekima je promaknuo satirični element, izazivajući nacionalističke rasprave o navodnoj Muskovoj sklonosti prema Srbiji. Ipak, neke su izmišljotine i dalje upadljivo očite.
“Od nekih slučajeva smo odustali jer su bili previše besmisleni: na primer, ne verujemo da bi iko poverovao u to da su nacisti gradili egipatske piramide i slično. A sigurno postoje i slučajevi koje ni sami nismo primetili, koji su i nas uspeli prevariti”, priznaje Marija Zemunović, novinarka Fake News Tragača.
Jelena Jovanović ističe središnju ulogu medijske pismenosti u borbi protiv dezinformacija generisanih umjetnom inteligencijom.
“Od početka 2023. godine konstantno ukazujemo građanima/kama na različite primjere dezinformacija, kako bi uticali na njihovu svijest o ovom problemu, ali i pospješili medijsku pismenost i sposobnost da i sami prepoznaju takav sadržaj prije nego proizvede određene posljedice, čime aktivno doprinosimo suzbijanju širenja dezinformacija koje su kreirane pomoću AI”, objašnjava Jovanović.
Navigacija kroz digitalno doba
U digitalnom okruženju koje se brzo razvija, širenje dezinformacija koje generiše umjetna inteligencija predstavlja značajan izazov za našu sposobnost da razlikujemo istinu od izmišljotine. Ovo pitanje naglašava širu borbu za prilagođavanje svijetu u kojem se dezinformacije šire alarmantnom brzinom, a njihovo stvaranje postaje sve lakše.
Novinari/ke, koji/e stoje na prvoj liniji diseminacije informacija, žustro su prihvatili/e alate i metodologije digitalne ere, možda čak s pretjeranom gorljivošću. Slučaj “Daniel Smith” rječit je primjer, budući da su njegovi intervjui vođeni isključivo u pisanom formatu. Kada je novinarka predložila naknadni videointervju usred rastućih sumnji u Smithovu vjerodostojnost, Smith i njegova prisutnost na Twitteru odjednom su nestali. U danima prije digitalne ere, novinari/ke su rutinski provodili/e intervjue telefonom ili lično, što im je omogućavalo da primijete suptilne detalje kao što su naglasak i poznavanje jezika. Jedan korisnik Twittera primijetio je da Smithov engleski nije zvučao kao da mu je maternji jezik iz načina na koji je pisao – detalj koji bi vjerojatno bio očigledniji u usmenoj komunikaciji.
Digitalna era, sa svim svojim inovacijama, postavlja nove izazove pred novinarstvo, prisiljavajući medijske kuće da revidiraju svoje metode provjere informacija. Primjer lista Danas i slučaj izmišljenog Daniela Smitha ilustrira koliko je lako pasti u zamku nedovoljne provjere, čak i kada se informacije na prvi pogled čine vjerodostojnima.
Nakon što su otkrili da je Daniel Smith fiktivni lik, iz Danasa su poslali ispravku, priznajući da nisu izvršili dovoljno temeljitu provjeru, djelimično zbog prividne kredibilnosti koju su mu dali prethodni intervjui s Al Jazeerom.
“Izvinjavamo se čitaocima i javnosti što smo ih doveli u zabludu, ali smo naučili lekciju da je novinarstvo u doba interneta dosta izazovnije i da moramo biti mnogo oprezniji i proveravati čak i ono što naizgled deluje da je autentično. Na osnovu sopstvenog primera, ubuduće ćemo, u saradnji sa istraživačkim i fact-checking portalima, više pažnje posvetiti edukaciji novinara i publike kako bi se izbegle ovakve situacije”, poručili su iz Danasa.
Kako AI tehnologije nastavljaju napredovati, postoji hitna potreba da se organizacije koje provjeravaju činjenice prilagode i uvedu inovacije. To bi moglo uključivati razvoj novih alata za provjeru, posebno dizajniranih za otkrivanje sadržaja generisanog umjetnom inteligencijom, ili poboljšanje digitalne pismenosti javnosti i stručnjaka/inja uključenih u stvaranje i provjeru sadržaja. Izazov koji predstavlja evolucija umjetne inteligencije prevazilazi tehničke aspekte; zahtijeva holistički pristup koji obuhvata etička pitanja, regulatorne okvire i svijest javnosti, kako bi se osiguralo da sistem digitalnih informacija ostane pouzdan i transparentan.
Potencijal umjetne inteligencije u novinarstvu i fact-checkingu
Napredak AI-a ne predstavlja, pak, samo izazov, već i značajan potencijal za novinare/ke i fact-checkere. Medijske kuće širom svijeta u sve većoj mjeri koriste AI u raznim segmentima novinarske produkcije – od generisanja ideja za priče i prevođenja sadržaja do uređivanja i, u nekim slučajevima, pisanja članaka. Međutim, primjena umjetne inteligencije u kreiranju sadržaja ostaje predmet rasprave, s mnogim medijskim organizacijama koje vide potencijalne rizike za svoj ugled.
“Ponekad koristimo ChatGPT, ali smo vrlo oprezni znajući da je provjera činjenica ljudski posao i odgovornost. Međutim, smatramo da je korisno biti u toku sa svim alatima umjetne inteligencije koji bi mogli poboljšati naš svakodnevni rad”, rekla je za SEE Check Viola Keta iz albanskog Faktoje.
Britanski Full Fact, vodeća organizacija za provjeru činjenica, u ovoj je zemlji bila među pionirima u razvijanju AI sistema osmišljenog da pojednostavi proces provjere činjenica. Ovaj inovativni alat omogućava njima i njihovim partnerima automatizaciju pretraživanja tvrdnji, praćenje medijskih kuća i društvenih platformi te dobijanje notifikacija za tvrdnje koje su već provjerene.
Organizacije iz jugoistočne Evrope zadužene za provjeru činjenica tek počinju istraživati potencijale umjetne inteligencije, a njihovo korištenje tehnologije još uvijek je u začecima. Primjeri kao što su Faktograf iz Hrvatske i Raskrikavanje iz Srbije pokazuju interes za AI, osobito u kreiranju vizualnog sadržaja, ali njihova upotreba AI alata ostaje ograničena.
“Ne koristimo nijedan alat svakodnevno, malo smo eksperimentisali generatorima fotografija, pošto su oni zanimljivo rešenje za ilustraciju tekstova. Probali smo i jedan za geolociranje – ubacite fotografiju, AI vam kaže gde ste – nije se proslavio. Svakako da bi nam unapređena verzija takvog alata dosta pomogla, ali i neki koji potencijalno može da izvuče dodatne metapodatke iz multimedijalnog sadržaja”, rekao je Stefan Kosanović iz Raskrikavanja.
Jovanović iz crnogorskog Raskrinkavanja spomenula je da u njihovoj redakciji koriste neke AI aplikacije, kao što su “AI or Not”, za identifikaciju AI generisanih fotografija, i “Deepware”, za otkrivanje deepfake sadržaja. Međutim, ona navodi da pri provjeri koriste više različitih alata kako bi utvrdili autentičnost informacije.
“Uzimajući u obzir da smo već analizirali sadržaje koji su stvoreni putem AI, svesni smo koliko oni mogu da zavaraju, pa smo veoma oprezni”, istakla je Marija Zemunović iz FNT-a.
Općenito, osobe koje se bave provjerom činjenica u jugoistočnoj Evropi otvorene su za integraciju AI alata u njihov svakodnevni posao, uz određene uslove. Žana Erznožnik iz slovenskog Razkrinkavanja spominje uslovnu otvorenost prema korištenju AI, ističući važnost sigurnosti podataka i etičkih smjernica u implementaciji AI-a u procesu provjere činjenica.
Kako AI dezinformacije postaju sofisticiranije, raste i potreba za naprednim alatima za provjeru činjenica koji mogu odgovoriti na te izazove. Do sada, provjerivači činjenica uglavnom su se oslanjali na tradicionalne metode, uključujući triangulaciju podataka i pristup svakom slučaju pojedinačno, uz podršku određenih alata dizajniranih za detekciju sadržaja kreiranog AI tehnologijama. Ipak, ovaj pristup ima svoje granice.
“Ukoliko putem standardnih alata za pretragu fotografija ili snimki ne pronađemo prvu objavu AI generirane fotografije ili snimke, gotovo je nemoguće potvrditi da je nešto zaista AI generirani sadržaj”, kaže Ivica Kristović, urednik zagrebačkog Faktografa.
Rašid Krupalija iz bosanskog Raskrinkavanja se slaže.
“Još uvijek nemamo alate koji specifično razobličavaju AI dezinformacije, kao što su deepfake snimci, dakle, koristimo se manje-više oprobanim metodama, što čini provjeru tačnosti ovakvih sadržaja dodatno komplikovanom. Kako AI alati budu napredovali, i provjera dezinformacija napravljenih uz pomoć njih usložnjavat će se, te će rasti i potreba za alatima koji su napravljeni specifično za provjeru takvih sadržaja”, kaže Krupalija.
Međutim, postoje određene prepreke za dobivanje tih alata.
“Imali smo namjeru da koristimo AI alate za fotografije kojima ilustrujemo tekstove i analize, ali za sada nijesmo uspjeli to da uradimo. Neki se plaćaju, a neki nijesu od velike pomoći. Ono gdje bi nam sigurno AI mogao doprinijeti to je brža obrnuta pretraga fotografija i videa. Postojeći alati koje imamo na raspolaganju mogli bi biti puno napredniji, a s obzirom na to da AI nudi pregršt mogućnosti, vjerovatno da bi tu mogli da pronađemo neko bolje digitalno rješenje, koje bi nam omogućilo da obavljanje svakodnevnog posla bude jednostavnije i efikasnije”, kaže Jelena Jovanović iz crnogorskog Raskrinkavanja.
Jovanović time ilustrira dublji problem digitalnog jaza između ekonomski razvijenijih i manje razvijenih regija. Ovaj jaz ukazuje na nejednake prilike u pristupu i korištenju AI alata, što može imati značajne posljedice na globalnu efikasnost borbe protiv dezinformacija. Razlike u resursima, infrastrukturi i stručnosti mogu ograničiti sposobnost nekih regija da se učinkovito suprotstave sve složenijim dezinformacijama koje generiše AI.
U jugoistočnoj Evropi, kao i drugdje, pojava AI-a u procesu provjere činjenica signalizuje početak nove ere, koja donosi kako izazove, tako i prilike. Dok AI tehnologije postaju sve naprednije i teže za detekciju, važno je da fact-checkeri kontinuirano ažuriraju svoje metode i alate. Slučaj “Daniel Smith” služi kao snažan podsjetnik na rastuću sofisticiranost dezinformacija koje generiše AI, ističući imperativ za sve one uključene u provjeru činjenica da se prilagode i razvijaju kako bi osigurali primat istine u digitalnom dobu.
(SEE Check.org)