Stručnjak za umjetnu inteligenciju napustio Anthropic uz dramatično upozorenje: Dovode čovječanstvo u opasnost

"Nijedna kompanija ne postupa odgovorno. Jure direktno prema samousavršavajućoj superinteligenciji i kockaju se s našim životima", napisao je Coxon u nizu objava na platformi X/Twitter.

Coxon je također upozorio da ne treba potcjenjivati moć umjetne inteligencije (AI), navodeći da će uskoro postojati "nadljudski sistemi koji mogu hakovati bilo šta, preko noći revolucionirati bilo koju oblast i steći stvarnu moć i resurse".

Prema Coxonu, zaposlenici OpenAI-ja još nisu u potpunosti shvatili koliki su ulozi kada je riječ o umjetnoj inteligenciji, dok je Anthropic "zarobljen u utrci da prvi stigne do tog cilja, vjeruju da niko drugi neće postupati odgovorno, pa smatraju da to moraju učiniti sami, uprkos riziku".

On je pozvao istraživače u laboratorijama za razvoj umjetne inteligencije da budu oprezni tokom narednih nekoliko godina razvoja AI-ja.

Anthropicov stručnjak za usklađivanje AI-ja slaže se da AI predstavlja opasnost za čovječanstvo

U odgovoru na Coxonove objave, Evan Hubinger, vodeći stručnjak za Alignment Science u Anthropicu, rekao je da je Coxon u pravu.

"Zaista iskreno vjerujemo da bi AI mogao pobiti sve ljude! Ja smatram da je vjerovatnoća za to veća od 10 posto u narednoj deceniji. Vjerujem da Anthropic daje sve od sebe, ali još nemamo plan za rješavanje problema usklađivanja superinteligencije s ljudskim vrijednostima i nismo jasno na putu da ga riješimo", napisao je Hubinger.