Deepfake glasovni i video sadržaj

PSIHOLOGIJA DRUŠTVENIH MREŽA

11. AI-POJAČANE MANIPULACIJE

Jedan od osnovnih načina na koji procenjujemo istinitost informacija oslanja se na čula: pre svega na vid i sluh.

U svakodnevnoj komunikaciji pretpostavljamo da je ono što vidimo da je neko učinio i što čujemo da je neko rekao snažan dokaz autentičnosti. Tehnologija dubokog falsifikovanja (deepfake) direktno dovodi u pitanje ovu pretpostavku.

Korišćenjem tehnika dubokog učenja, uključujući generativne modele (poput GAN arhitektura i novijih difuzionih pristupa), moguće je proizvesti audio i video zapise koji su veštački generisani, ali perceptivno veoma slični stvarnim osobama. Kada se takav sadržaj koristi sa namerom obmane, posledica nije samo širenje netačnih informacija, već i potkopavanje poverenja u čulne dokaze, koji su dugo predstavljali temelj medijske i interpersonalne verifikacije.

Od sintetizacije do manipulacije opaženom realnošću

Mehanizam

Deepfake tehnologija ne funkcioniše kao klasična montaža ili manipulacija postojećeg snimka. Umesto toga, modeli se treniraju na velikim količinama podataka: snimcima lica, pokreta i glasa; kako bi naučili obrasce i zatim sintetisali novi sadržaj koji oponaša identitet ciljane osobe.

Psihološki efekat ovakvog sadržaja proizlazi iz nekoliko međusobno povezanih procesa.

Senzorni konflikt i smanjenje „doline jezivosti“

Rani deepfake snimci često su izazivali nelagodu zbog nesklada između realističnih i neprirodnih elemenata: fenomen poznat kao uncanny valley. Kako se kvalitet generisanog sadržaja poboljšava, ovaj efekat slabi. Posledica je direktan konflikt između senzorne percepcije („vidim i čujem osobu X“) i racionalne procene („ovo verovatno nije autentično“). U uslovima brzog informisanja i emocionalnog pritiska, ovaj konflikt se često razrešava u korist čulnog utiska.

Eksploatacija heuristike izvora

Ljudi u velikoj meri procenjuju poruke na osnovu kredibiliteta izvora. Deepfake tehnologija omogućava da se taj kredibilitet pozajmi ili otme. Čak i kada postoji svesna sumnja, činjenica da poruka dolazi u formi glasa ili lika autoriteta (javne ličnosti, nadređenog, bliske osobe) snažno utiče na procenu istinitosti. Heuristika izvora tada deluje gotovo automatski.

Emocionalno zaražavanje i ubrzano širenje

Audio-vizuelni sadržaj ima izražen kapacitet za izazivanje snažnih emocionalnih reakcija. Deepfake snimci koji prikazuju navodne skandale, pretnje ili hitne situacije mogu pokrenuti talas besa, straha ili panike pre nego što je ikakva provera moguća. Emocionalna reakcija u tom trenutku postaje prepreka analitičkom razmišljanju.

Od ličnih prevara do sistemskih efekata

Primene

Iako se deepfake često razmatra u kontekstu geopolitike i dezinformacija, njegove posledice su sve izraženije na ličnom i organizacionom nivou.

Glasovne prevare i socijalni inženjering

Jedna od najpraktičnijih i trenutno najopasnijih primena jeste tzv. deepfake vishing. Napadač koristi sintetički generisan glas bliske osobe kako bi u realnom vremenu simulirao hitnu situaciju. Kombinacija poznatog glasa, emocionalnog naboja i vremenskog pritiska efikasno zaobilazi racionalne provere i aktivira instinktivnu potrebu za zaštitom bližnjih.

Narušavanje reputacije

Sintetisani kompromitujući video zapisi mogu izazvati ozbiljnu i često dugotrajnu reputacionu štetu, čak i kada se kasnije dokaže da su lažni. Prvi utisak i emocionalni šok često ostaju dominantni u kolektivnom pamćenju, dok ispravke imaju znatno manji domet.

Erozija dokazne vrednosti medija

(„dividenda lažova“) Postojanje uverljivih deepfake-ova omogućava i suprotan oblik manipulacije: poricanje autentičnih snimaka uz tvrdnju da su falsifikovani. Ovaj fenomen, poznat kao liar’s dividend, slabi poverenje u audio-vizuelne dokaze uopšte i doprinosi opštem skepticizmu prema činjenicama.

Psihološke posledice i izgradnja otpornosti

Širi efekti deepfake tehnologije prevazilaze pojedinačne incidente.

• Generalizovano nepoverenje
  Ako se svaki snimak može dovesti u pitanje, komunikacija postaje opterećena stalnom sumnjom, što otežava javni dijalog i međuljudsko poverenje.
• Povećana nesigurnost identiteta
  Saznanje da se glas ili lik mogu relativno lako zloupotrebiti uvodi novu dimenziju digitalne ranjivosti, naročito kod javno izloženih osoba.

Pomeranje fokusa sa sadržaja na kontekst

Umesto pitanja „da li ovo izgleda stvarno“, korisnije je pitati se:

• kroz koji kanal sadržaj dolazi,
• da li postoji nezavisna potvrda,
• da li se poruka uklapa u poznati kontekst ponašanja te osobe.

Svesnost o emocionalnom pritisku

Snažna emocionalna reakcija često je signal da se traži brza odluka. Kratko odlaganje i proveravanje informacije može biti dovoljna zaštita od impulzivne reakcije.

Tehničke i kontekstualne provere

Iako postaju sve ređi, vizuelni i zvučni artefakti, kao i nelogičnosti u vremenu, mestu ili okolnostima, i dalje mogu ukazivati na manipulaciju.

Zašto ne volim društvene mreže?

VI algoritmovi mogu verno da kreiraju i imitiraju identitet stvarnih osoba, uključujući glas i lik. Takve tehnike povećavaju rizik od finansijskih prevara i reputacionih šteta. Vizuelni ili audio dokaz više nije sam po sebi dovoljan za poverenje.

Napomena: Ovi obrasci opisuju moguće zloupotrebe AI tehnologija u digitalnom okruženju i ne znače da je svaka primena veštačke inteligencije štetna. AI ima i brojne korisne primene, ali razumevanje rizika pomaže odgovornijem korišćenju i razvoju ovih sistema.

Alek.B.