Nismo spremni za ovo: Varanjem glasača umjetna inteligencija mogla bi odlučivati o ishodu izbora

Sintetičke slike koje su se pojavile često su bile grube, neuvjerljive i skupe za proizvodnju, posebno kada su druge vrste dezinformacija bile tako jeftine i lako se širile na društvenim mrežama. Prijetnja koju predstavljaju umjetna inteligencija i takozvani deepfakes uvijek izgledale dovoljno daleko, prenosi ABC News.

Sofisticirani generativni AI alati sada mogu kreirati klonirane ljudske glasove i hiperrealistične slike, video i audio zapise u sekundi, uz minimalne troškove. Kada je vezan za moćne algoritme društvenih medija, ovaj lažni i digitalno kreiran sadržaj može se proširiti daleko i brzo i ciljati vrlo specifičnu publiku, potencijalno podižući prljave trikove kampanje na novi nivo.

Implikacije za buduće kampanje i izbore su onoliko velike koliko i zabrinjavajuće. Generativna AI ne samo da može brzo proizvesti ciljane emailove kampanje, tekstove ili video zapise, već bi se također mogla koristiti da obmane birače, lažno predstavlja kandidate i potkopa izbore u velikom obimu i brzinom koja još nije viđena.

"Nismo spremni za ovo," upozorio je AJ Nash, potpredsjednik obavještajne službe kompanije ZeroFox za cyber sigurnost.

"Za mene, veliki korak naprijed su audio i video mogućnosti koje su se pojavile. Kada to možete učiniti u velikom obimu i distribuirati na društvenim platformama, to će imati veliki utjecaj", dodao je.