Kako prepoznati deepfake? Digitalne krivotvorine sve su realističnije, raširenije i opasnije

#Sigurnost na internetu #BoljiOnline

Autor A1 Hrvatska
Datum 25.02.2025.

Prije nekoliko tjedana društvenim mrežama širio se video u kojem voditeljica Mojmira Pastorčić i ministar financija Marko Primorac govore o prilikama za zaradu. Kako je sama voditeljica upozorila u emisiji „RTL Direkt“, radi se o prevari, točnije o deepfake videu.

„Ako ste slučajno na Facebooku nabasali na jedan video, tobože iz Direkta, opremljen Direktovim bojama, u kojem vam ja, s čudnim naglaskom i ministar financija Marko Primorac, također s malo čudnim naglaskom savjetuju investicijsku platformu na kojoj možete zaraditi 10.000 eura ako uložite 250 eura, nemojte nasjedati! To je deepfake video“, poručila je Pastorčić u
emisiji.

U nastavku saznaj više o ovoj tehnologiji koja izaziva sve veću zabrinutost.

Što je deepfake?

Deepfake je umjetno generirani sadržaj u kojem se osoba s originalne snimke ili fotografije mijenja s nekom drugom osobom zbog širenja lažnih informacija ili obmane. Može nastati transformiranjem izvornog sadržaja u kojem se jedna osoba mijenja drugom ili stvaranjem novog i originalnog sadržaja u kojem je osoba prikazana kako radi ili govori nešto što uopće nije napravila ili izgovorila.

Riječ „deep“ dolazi od izraza „deep learning“ (duboko učenje), odnosno metode učenja računala na ogromnim količinama podataka kako bi izvodilo zadatke slične ljudskima. Riječ „fake“ ukazuje na to da je sadržaj računalno generiran i da ga je teško razlikovati od medijskog sadržaja koji su stvorili stvarni ljudi.

U samo nekoliko minuta, zahvaljujući umjetnoj inteligenciji, napadači mogu stvoriti lažni video, fotografiju ili audio snimku. Ovakav računalno generirani sadržaj sa sobom nosi opasne posljedice i etičke dileme, posebno jer se koristi u svrhu osvetničke pornografije koja može uništiti nečiji ugled i život pomoću dezinformacija. Posebno su ugrožene slavne osobe jer su na internetu dostupne tisuće i tisuće njihovih fotografija i video isječaka.

Danas se deepfake koristi u zabavne svrhe ili čak za znanstvena istraživanja, ali ponekad se koriste za oponašanje ljudi poput političara ili svjetskih vođa kako bi se namjerno zavaralo ciljanu publiku. Vjerojatno i na svome mobitelu imaš aplikacije koje koriste deepfake tehnologiju. Među najpoznatijima je FaceApp koja ti omogućuje da na svojoj ili tuđoj fotografiji promijeniš izgled, dob i li spol. Osim toga, na Instagramu i Snapchatu također ćeš pronaći filtere sa zamjenom lica.

Nažalost, ove primjere zasjenili su deepfakeovi čiji je cilj zavarati ljude, a smatraju se digitalnim krivotvorinama. U svibnju 2023. Svjetski ekonomski forum iznio je podatak da je između 2019. i 2020. godine broj objavljenog deepfake sadržaja porastao za 900 posto, dok je danas taj rast znatno veći.

Kako prepoznati deepfake?

U samim počecima deepfakea moglo se lako prepoznati da se radi o manipulaciji. Fotografije su imale velik broj grešaka, dok su video zapisi bili mutni, a prikazane osobe imale su neprirodne pokrete.

Međutim, deepfake je napredovao i materijali su sve realističniji, zbog čega je teže prepoznati radi li se u umjetnoj inteligenciji ili stvarnom sadržaju. Stručnjake najviše brine činjenica što video materijali mogu biti manipulirani u realnom vremenu, primjerice tijekom video poziva.

Ono što može pomoći u prepoznavanju deepfakea je promatranje lica prikazane osobe. Posebnu pozornost usmjeri na pomicanje usana i usklađenost sa zvukom, oštrinu ili mutnoću crta lica i sličnosti boje kože lice s ostatkom tijela. Stručnjaci za cyber sigurnost tvrde da trenutačni programi za kreiranje deepfakeova nisu dovoljno dobri za stvaranje potpuno prirodnog izgleda zubi pa obrati pažnju i na njih. Mimika osoba u deepfake videu je pretjerana ili potpuno izostaje. Primjerice, osoba u videu uopće ne trepće ili trepće previše puta u sekundi. Osim toga, česta je pikselizacija tijekom pokreta rukom i na usnama tijekom govora.

Pregledaj ima li neprirodnih detalja na spornom materijalu. Ako su na fotografiji ili video zapisu ljudi, obrati pozornost na detalje poput prstiju, ušiju ili zubi i njihova položaja. Naime, umjetna inteligencija često griješi pa nije neobično da prikaže veći broj prstiju ili da nekome slučajno ukloni uši.

Također, sjene i odrazi često su tamo gdje ne bi trebali biti, objekti u pozadini često su bizarni i neprirodni, dok je tekst čudan i neprirodan.

Zbog realističnosti deepfakeova, čak i dobro informiranim odraslim osobama može biti teško prepoznati radi li se o obmanjujućem sadržaju. Upravo je zato važno podizati svijest o ovoj temi.

Osim sve potrebnije medijske pismenosti unutar školskog sustava, djecu je potrebno educirati od malih nogu. Dok su roditelji ranije učili djecu o izradi sigurne lozinke, danas moraju proširiti opseg tema o kojima moraju razgovarati, a jedna od njih definitivno je deepfake.

Zakonska regulacija

Deepfake tehnologija općenito je legalna, osim kada krši postojeće zakone poput dječje pornografije, govora mržnje ili klevete. Primjerice u Hrvatskoj kazneno djelo predstavljaju djela povezana s tzv. deepfake pornografijom, odnosno s korištenjem moderne tehnologije u svrhu manipulacije eksplicitnim sadržajem tako da se na fotografiji ili snimci digitalno zamijeni lik ili se pomoću moderne tehnologije izradi novi, manipulativni sadržaj s ciljem kršenja nečije privatnosti. Za ova kaznena djela propisana je zatvorska kazna do jedne godine, odnosno do tri godine ako je snimka postala dostupna većem broju ljudi.

Donedavno tehnologija nije bila toliko razvijena pa je bilo lakše raspoznati deepfake od stvarnog sadržaja. Trenutačno je sve teže raspoznati stvarne videozapise od deepfakeova, zbog čega raste svijest o potencijalnim opasnostima i posljedicama takve tehnologije, što će se sigurno prenijeti i na zakonodavce diljem svijeta.

Imaš dodatnih pitanja o ovoj temi? Stručnjaci Centra za sigurniji internet stoje ti na raspolaganju za sva pitanja i nedoumice na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svakim radnim danom od 8 do 16 sati. Osim toga, u bilo kojem trenutku se možeš anonimno obratiti našem AI chatbotu #BOB-u koji se nalazi u donjem desnom kutu na naslovnoj stranici #BoljiOnline.

Foto: Getty Images

Povezane vijesti

Vidi sve vijesti

Sve teme

Više od 200 milijuna ljudi ovisno je o društvenim mrežama: Kako provesti digitalni detoks i uživati u njemu?

Prakticiraš li digitalni detoks? Praksa kojom se svjesno smanjuje ili potpuno prekida korištenje digitalnih uređaja i tehnologija sve je popularnija diljem svijeta, što ne čudi s obzirom na porast broja ovisnika o društvenim mrežama.

Naime, najnovije istraživanje procjenjuje da je čak 210 milijuna ljudi diljem svijeta ovisno o društvenim mrežama, što može rezultirati promjenama raspoloženja, poremećajima sna, zanemarivanjem obaveza, željom za validacijom i nedostatkom hobija.

Ovisnici o društvenim mrežama provode većinu svoga dana buljeći u ekran te kompulzivno provjeravaju lajkove ili brojeve pregleda na društvenim mrežama.

„Mnoge aplikacije koriste saznanja iz psiholoških istraživanja kako bi maksimalno povećala angažman korisnika i aktivirala dijelove mozga koji te tjeraju da nešto radiš iznova i iznova, sve dok ti određeno ponašanje ne postane navika“, izjavila je Erin Calipari, direktorica Vanderbilt Centra za istraživanje ovisnosti za Yahoo.

Kako se odviknuti od mobitela?

Prema psiholozima, prvi korak u odvikavanju od društvenih mreža je postavljanje konkretnog cilja. Primjerice, možeš odlučiti da više nećeš koristiti svoj pametni telefon nakon posla ili postaviti limit za korištenje tijekom vikenda. Pomoći će ti i određivanje osobe koja će pratiti tvoje aktivnosti i pozvati te na odgovornost.

Možeš ograničiti vrijeme korištenja određenih aplikacija ili postaviti notifikacije na „Do not disturb“ i tako izbjeći bespotrebne obavijesti bez potpunog isključenja.

Osim toga, stručnjaci savjetuju odupiranje određenom sadržaju. Za većinu nas mobiteli ne predstavljaju problem, već aplikacije. Ako ne koristiš društvene mreže, ne stižu ti brojne notifikacije koje te najviše privlače ekranima. Umjesto korištenja nekoliko aplikacija u isto vrijeme, preporučuje se korištenje jedne po jedne.

Ako ništa drugo ne pali, mobitel tretiraj kao fiksni telefon. Drži ga u određenim prostorijama svoga doma i koristi u određeno vrijeme, umjesto da si cijeli dan u iskušenju.

Prema psiholozima, držanje mobitela u drugoj prostoriji tijekom noći jednostavan je način da pretvoriš svoju spavaću sobu u zonu bez tehnologije. Fizičko odvajanje od mobitela najefikasnija je metoda detoksiciranja od društvenih mreža, budući da je mnogima skrolanje navika netom prije spavanja i nakon buđenja.

Odgoda odgodivih zadataka

Ovisnost o pametnim telefonima danas je toliko uobičajena da mnogi ne shvaćaju da su zapravo ovisni. Zato se preporučuje upuštanje u svakodnevnu aktivnost koja ne zahtijeva mobitel. Iako uvijek treba voditi računa o sigurnosti, postoje izlasci i aktivnosti koje se mogu obaviti bez tehnologije. Možda će ti netko poslati poruku dok si u teretani, ali uvijek možeš odgovoriti kada završiš, umjesto da prekidaš vježbanje.

Uz to, problematičan je automatizam obavljanja zadataka s osjećajem hitnosti. Činjenica je da korištenje mobiela za naručivanje namirnica, odgovaranje na e-mailove, rezerviranje ulaznica za koncerte od velike pomoći u užurbanoj svakodnevici. Ali svaki put kada ti stigne notifikacija postavi si pitanje: „Može li ovo pričekati?“

Kod digitalnog detoksa bitna je ustrajnost. U početku bi ti manje korištenje tehnologije moglo predstavljati problem jer razbijaš određene navike, ali stručnjaci uvjeravaju da s vremenom i vježbom sve postaje podnošljivije i ugodnije.

Foto: Getty Images

Sve teme

Kineski RedNote nova je zvijezda među aplikacijama: Upoznaj nimalo bezazlenu alternativu TikToku

Nedavno je u SAD-u na doslovce nekoliko sati ugašen TikTok, zbog odluke Vrhovnog suda prema kojem kineska tvrtka ByteDance, vlasnik te društvene mreže, mora prodati popularnu aplikaciju zbog zabrinutosti za privatnost korisnika i nacionalnu sigurnost.

Uvjet za nastavak poslovanja u SAD-u bio je da matična tvrtka u kineskom vlasništvu pristane prodati TikTok američkom vlasniku, što ByteDance zasad odbija.

Istoga dana novoizabrani američki predsjednik Donald Trump umiješao se u cijelu priču i obećao kako će obustaviti zabranu i produljiti rok za dogovor s tvrtkom ByteDance za dodatnih 90 dana. Korisnici su tako ostali bez TikToka na samo nekoliko sati, ali u danima koji su prethodili njegovom privremenom gašenju, sve je veću popularnost stekla druga kineska aplikacija – RedNote.

Radi se o platformi za društveno umrežavanje i e-trgovinu koja je osnovana 2013. i trenutačno broji više od 300 milijuna korisnika. Poznata je i kao kineski odgovor na Instagram koji nije dizajniran za engleske govornike, a uspoređuje se s TikTokom zbog fokusa na kratke video isječke.

Zanimljivost RedNotea je što se algoritam vodi interesima korisnika, a ne osobama koje prate, čime se smanjuje utjecaj influencera. No, stručnjaci upozoravaju da bi i RedNote mogao postati meta američkih regulatora.

Iako se RedNote predstavlja kao prostor za kreativnost, samopromociju i viralni sadržaj, postoje brojne zamjerke oko njezine politike privatnosti i smjernica zajednice. Naime, odobravanjem pristaješ na usklađenost sadržaja sa strogim kineskim zakonima i zakonima o cenzuri. Kako piše Forbes, svaka objava, komentar i lajk postoje u sustavu koji daje prednost „osnovnim socijalističkim vrijednostima“ umjesto slobode govora.

Korisnici u početku ne primjećuju što im algoritam servira, ali s vremenom je jasno da se potiče autocenzura i potiskuje neslaganje s režimom o politički osjetljivim pitanjima, poput kritike kineskih zakona o cyber sigurnosti ili zalaganje za ljudska prava.

Zabrinutost za privatnost korisnika

Kritičari RedNotea zamjeraju mu korištenje strogih smjernica za odgovor na tzv. „osjetljive incidente“, točnije kontroverzne političke ili društvene teme. Aplikacija cenzurira rasprave koje smatra osjetljivima za režim, što znači da algoritam preferira sadržaj usklađen s državnom politikom, dok se drugačiji stavovi potiskuju i ignoriraju.

U politikama privatnosti, na koje svaki korisnik pristaje prije početka korištenja aplikacije, eksplicitno se navodi da platforma prikuplja cijeli niz osobnih informacija, poput lokacije, interakcije i navika. Mladi ljudi, često željni povezivanja i izražavanja, možda u potpunosti ne shvaćaju na što pristaju.

Osim toga, RedNote prati informacije o uređaju preko kojeg mu se pristupa. Iako se radi o praksi koju primjenjuju gotovo sve aplikacije, u politikama privatnosti stoji da platforma ima pravo dijeliti takve podatke s pružateljima usluga trećih strana ili relevantnim državnim organima, što može predstavljati rizik za društvo i demokraciju, a ne samo za pojedince.

Iluzija slobode, u kojoj korisnici misle da imaju kontrolu, a zapravo djeluju unutar strogo definiranih granica, mogla bi postati novi standard za društvene mreže. Pristanak bez potpune transparentnosti nije sloboda jer je kontrola u rukama platforme, maskirana iluzijom izbora.

Sigurnost prije svega

Kako regulirati popularne platforme poput RedNotea? Prvi korak definitivno je međudržavna suradnja u zaštiti privatnosti i demokratskih principa. Kako bi zaštitile korisnike takvih aplikacija, vlade moraju inzistirati na transparentnosti prikupljanja podataka i uvođenju globalnih standarda digitalne privatnosti.

Dio zadaće je i na učiteljima i roditeljima koji moraju opremiti mlade za kritičku procjenu digitalnih platformi, osnažujući ih da surfaju internetom uz informirani skepticizam. Uvođenjem digitalne pismenosti u škole, mladi i djeca uče se prepoznati opasnosti platformi, preispituju sadržaj koji konzumiraju i razumiju potencijalne rizike. Na roditeljima je da potiču razgovore o sigurnosti na internetu i važnosti kritičkog mišljenja.

Međutim, kod pitanja cyber sigurnosti, najveća je moć u rukama pojedinaca koji trebaju kritički razmišljati. Pri korištenju nove platforme zapitaj se što se radi s tvojim podacima i kakav bi interes pružatelji usluga mogli imati od toga.

Utjecaj RedNotea seže dalje od hashtagova i viralnih video isječaka. To nije samo aplikacija, već test u kojem kao društvo odgovaramo na digitalne izazove našeg vremena jer se budućnost interneta piše danas. Izbori koje danas donosiš, oblikovat će slobode s kojima živiš sutra.

Foto: Getty Images