Kompanija iz BiH razvila program za borbu protiv deepfakea, nove pošasti na internetu
Deepfake je, kako nam pojašnjava, vještački promijenjen medijski kvalitet nekog sadržaja gdje je, naprimjer, videomaterijal jedne osobe sačinjen na način da predstavlja neku drugu osobu. Tj. od prikaza jedne, moguće je napraviti prikaz sasvim druge osobe, koji je izuzetno karakterističan, uvjerljiv i realan.
On predviđa da će u 2020. doći do ekspanzije ove nove vrste dezinformacija koja funkcionira na taj način da se medijski prikaz jedne osobe "ubaci" u tzv. machine learning model koji zapamti to lice ili glas, nakon čega se ugradi u drugu fotografiju, klip ili snimak.
"Zlonamjerne aktivnosti na internetu napreduju iz dana u dan. Zemana skoro dvije godine radi na razvijanju deep learning i ML algoritama koje smo počeli primjenjivati za detekciju malwarea. Jednostavno smo uvidjeli da bi deepfake mogao postati ozbiljan problem te smo se upustili u izradu jednog programa koji će se boriti protiv njega. Deepfake primarno dovodi do narušavanja reputacije osobe koja je zahvaćena, dovodi do ugrožavanja sigurnosti, pa čak i rata", naveo je Mujović.
Problem koji prvi put ugrožava ljude u realnom svijetu
Samir Mujović nam priča da je ovo prvi put da jedan malware može dovesti do direktnog ugrožavanja ljudi u realnom svijetu. Tačnije, do sada je samo mogao, kako nam pojašnjava, skinuti određenu sumu novca s računa ili jednostavno blokirati računar, a sada može utjecati na samu porodicu, pa i društvo u cjelini.
"Koliko je deepfake opasna stvar najbolje pokazuje Deepfake Detection Challenge koji su pokrenule najveće svjetske tehnološke kompanije kako bi se na jedno mjesto skupili svi programi na svijetu namijenjeni borbi s ovim problemom. Kuriozitet je da Zemana, firma iz male BiH, malog Sarajeva, trenutno vodi ispred svih drugih IT kompanija i njihovih softvera. Dakle, ako jedan Google, Facebook, Twitter i drugi misle da je to jedan veliki problem i da traže rješenje za njega, mislim da onda ozbiljnost situacije postaje jasna", dodaje on.
Ističe kako su danas ljudi poprilično sigurni kada obavljaju videopozive sa članovima porodice na kraju svijeta, ali upozorava da je vrlo moguće da nam se sutra umjesto bliskog rođaka na poziv javi sasvim druga osoba s njegovim licem. Ponavlja da je to jedan veliki izazov koji stoji pred IT svijetom i da ga treba rješavati što prije.
"Dakle, mi smo napravili program Deepware i njega smo lansirali u alfa verziji. U momentu kada smo ga predstavili nigdje na svijetu nije bilo sličnih softvera za detekciju i analizu ove vrste sadržaja. Deepware se koristi vrlo jednostavno, ubacite link nekog sadržaja i program vam pokaže je li on izmijenjen ili ne. Deepfake je oduvijek postojao, ali sa razvojem tehnologije, deepfake je postao dostupan širim masama čime se otvorila mogućnost zloupotrebi. Jedan od glumaca 'Star Warsa' je preminuo, ali je njegov lik trebao biti 'oživljen' kako bi se snimanje privelo kraju. Za takvo što je iskorištena deepfake tehnologija i za taj poduhvat je bilo potrebno čak 30 miliona dolara. Koliko je ovaj problem uznapredovao najbolje govori činjenica da danas tu akciju može izvršiti za 30-40 dolara", pojašnjava.
Deepfake će uskoro zahvatiti i BiH
Iako je deepfake u BiH relativna nepoznanica, Mujović je siguran da će on u vrlo kratkom vremenu zahvatiti i našu zemlju. Zapadne zemlje i Kina su već krenuli, otkriva nam, u izradu zakonske regulative o ovom pitanju.
"Oko 90 posto onih koji se bave deepfakeom se bave njegovom proizvodnjom, dok je samo deset posto onih koji su tu da rade na zaštiti. To je šah, a u šahu možete biti bolji samo ako igrate s boljim od sebe. Ista je stvar i s umjetnom inteligencijom i mašinskim učenjem. Mašina može biti bolja samo ako dobije teži problem. Dakle, mašina radi na tome da se Deepfake što bolje detektira i otkrije. Ta utrka nikada ne staje i može ići u beskonačnost. IT giganti će uvijek biti na strani korisnika i bit će tu da ga zaštite, obzirom da od njega žive, tako da je u tom dijelu siguran, ali za sve 'dublje' detalje možete naići na problem. Ukoliko tehnologija bude išla ovim smjerom bez adekvatne zaštite, ona više neće biti korisna i postat će štetna. Ljudi će takvu tehnologiju izbjegavati i, u krajnosti, prestati koristiti", kaže Mujović.
Iako neki za deepfake vole reći da je to vrhunac "lažiranja" na internetu, Samir Mujović kroz smijeh govori da tu nije kraj. On priča da će čovječanstvo naići na još veće probleme kada dobijemo androide i robote te da tada nećemo biti sigurni šta je čovjek, a šta mašina.
"Sve one stvari koje su do jučer bile naučna fantastika danas dobijaju smisao. SciFi filmovi iz 80-ih su prikazivali videopoziv kao futuristički projekt, a to je danas sasvim normalno. Teslin SpaceX je nešto što se moglo vidjeti u pomalo izmijenjenom obliku u 'Star Warsu'. Najveća razlika između čovjeka i mašine bit će kreativnost. Čovjek je kreativno biće, dok se mašina bazira na naučenom znanju. Mi se u Zemani često znamo zapitati šta ako tehnologija dođe na nivo koji neki naučnici zovu 'singularity'. U tom momentu će mašina moći dosta brže misliti i raditi od čovjeka. Čovjek će tada sam sebi stvoriti neprijatelja, a onda ide sudnji dan", kroz smijeh zaključuje Samir Mujović.
