Deepfakes i shallowfakes za kompromitovanje
PSIHOLOGIJA DRUŠTVENIH MREŽA
4. POLITIČKE MANIPULACIJE
Politička kompromitacija ne zahteva nužno autentičan kompromitujući materijal. Često počinje proizvodnjom audiovizuelnog sadržaja koji se nikada nije dogodio ili je značajno izmenjen.
Deepfakes (sintetički mediji generisani uz pomoć veštačke inteligencije) i shallowfakes (manipulacije izvedene jednostavnijim, dostupnim alatima) postali su deo arsenala političkih napada čiji cilj nije uvek da ubedi, već da diskredituje, destabilizuje i naruši poverenje u informacionu sredinu.
Za razliku od klasične klevete zasnovane na tekstu, ove tehnike koriste duboko ukorenjeno ljudsko oslanjanje na vizuelne i auditivne dokaze. Ono što vidimo i čujemo doživljavamo kao neposrednije i „stvarnije“, što ovakvim sadržajima daje posebnu ubedljivost, čak i kada znamo da mogu biti falsifikovani.
Dva nivoa tehnološke manipulacije
Mehanizam
Iako se razlikuju po tehničkoj složenosti, deepfakes i shallowfakes imaju zajednički cilj: stvaranje uverljive, ali netačne predstave stvarnosti.
Deepfakes
Ovi snimci koriste tehnike dubokog učenja, uključujući generativne modele, kako bi se lice, glas ili mimika jedne osobe realistično preslikali na drugu. Rezultat može biti video u kojem javna ličnost navodno izgovara reči koje nikada nije rekla ili se pojavljuje u situaciji u kojoj nikada nije bila. Kvalitet ovih sadržaja varira, ali se tehnološka barijera za njihovu izradu kontinuirano smanjuje.
Shallowfakes
Ova kategorija obuhvata manipulacije koje ne zahtevaju naprednu veštačku inteligenciju.
Najčešći oblici uključuju:
- postavljanje autentičnog snimka u lažan vremenski ili politički kontekst,
- selektivno sečenje i preuređivanje kadrova radi promene značenja,
- usporavanje ili ubrzavanje snimka kako bi osoba delovala dezorijentisano ili nesigurno,
- pogrešno ili zlonamerno titlovanje i prevođenje.
U političkoj praksi, shallowfakes su često efikasniji: brže se proizvode, teže ih je pravno osporiti i oslanjaju se na stvarni vizuelni materijal, što dodatno povećava njihovu uverljivost.
Zašto deluju čak i kada smo sumnjičavi?
Psihološki uticaj
Čak i uz rastuću svest o postojanju ovih tehnika, njihov efekat ostaje snažan zbog poznatih kognitivnih obrazaca.
Efekat prividne istine (illusory truth effect)
Sama izloženost lažnom sadržaju može povećati njegovu subjektivnu verodostojnost, naročito kada se ponavlja ili kada je vizuelno upečatljiv. Kasniji demanti često ne brišu u potpunosti trag prvobitnog utiska.
Sidrenje prvog utiska (anchoring bias)
Prva informacija koju primimo, posebno ako je emocionalno intenzivna, postavlja okvir za kasnije razmišljanje. Audiovizuelni šok aktivira brze, afektivne reakcije koje su otpornije na racionalne korekcije.
Potvrđivanje postojećih uverenja (confirmation bias)
Manipulisani snimci koji se uklapaju u postojeće političke stavove ili predrasude imaju veću verovatnoću da budu prihvaćeni bez dublje provere.
Cilj je sumnja, ne nužno ubeđenje.
U mnogim slučajevima, krajnji cilj nije da publika poveruje u autentičnost konkretnog snimka, već da se stvori konfuzija i opšti skepticizam. Kada se granica između stvarnog i lažnog zamagli, i autentični dokazi mogu biti relativizovani kao „još jedan falsifikat“.
Kako da prepoznamo i kako da reagujemo?
Ne postoji nepogrešiv metod, ali kombinovanje više pristupa povećava šanse za razumno prosuđivanje.
Provera izvora i konteksta
Važno je obratiti pažnju na to ko je prvi objavio snimak, u kom kontekstu i sa kakvom namerom. Nepoznati ili novootvoreni nalozi, kao i senzacionalistički opisi, zahtevaju dodatni oprez.
Uočavanje tehničkih i kontekstualnih nepravilnosti
Kod shallowfakes-a: neslaganje vremenskih oznaka, lokacije ili okolnosti.
Kod deepfakes-a: neprirodni pokreti usana, nelogične senke, neusklađena mimika ili neuobičajeno ravna intonacija glasa. Važno je naglasiti da odsustvo ovih znakova ne garantuje autentičnost.
Korišćenje dostupnih alata
Alati poput InVID-a ili YouTube DataViewer-a mogu pomoći u analizi izvora i metapodataka. Njihove procene treba shvatiti kao pomoćno sredstvo, ne kao konačan sud.
Promišljena reakcija
Masovno deljenje sumnjivog sadržaja, čak i uz nameru da se demantuje, često doprinosi njegovom širenju. Prijavljivanje platformama i oslanjanje na zvanične izvore i proverene medije obično je efikasniji odgovor.
Šta možemo da učinimo kao društvo?
Pojedinačna pažnja je važna, ali nije dovoljna bez sistemskih rešenja.
- Razvoj medijske i digitalne pismenosti kao osnovne veštine u savremenom javnom prostoru.
- Transparentnije politike platformi, uključujući jasno označavanje sintetičkih i manipulisanih sadržaja i saradnju sa nezavisnim proverivačima.
- Sporiji odnos prema informacijama, posebno onima koje izazivaju snažne emocionalne reakcije, čime se smanjuje efekat viralne eskalacije.
Deepfakes i shallowfakes nisu samo tehnološki izazov, već test sposobnosti društva da očuva poverenje u zajednički informativni prostor. Njihova najveća opasnost ne leži u savršenstvu iluzije, već u postepenom potkopavanju osnove na kojoj počiva javni dijalog: pretpostavke da stvarnost može biti zajednički proveravana.
Zašto ne volim društvene mreže?
Manipuliacijom audio i video zapisima potkopavaju poverenje u vizuelne dokaze, koji su nekada imali posebnu težinu. Čak i kada je sadržaj autentičan, sumnja ostaje. Posledica je opšta nesigurnost u to šta je moguće proveriti.
Napomena: Ovi opisi odnose se na prepoznate obrasce političke komunikacije u digitalnom okruženju i ne impliciraju da je svaka politička aktivnost na mrežama manipulativna. Cilj je da se razjasne mehanizmi koji mogu uticati na percepciju i javnu debatu, kako bi čitalac mogao informisanije da ih prepoznaje.
Alek.B.
Ovo nije kritika lošeg dizajna. Ovo je dijagnoza sistemske patologije. Društvene mreže nisu pokvarile komunikaciju - one su razvile patološki oblik komunikacije koji se predstavlja kao normalan. I upravo ta normalizacija hronične bolesti je najopasniji simptom. Jer kada se patologija prikaže kao funkcija, nestaje mogućnost za izlečenje – ostaje samo prividna funkcija u službi bolesti.
Ovi tekstovi nisu jedini opis globalnog problema. Oni su otkrivanje lošeg patološkog obrasca. Jer prvi korak ka pozitivnoj digitalnoj kulturi je razumevanje i prepoznavanje uzroka!