On je naveo da je njihova misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu.
"Ako se umjetna inteligencija (AGI) uspješno napravi, ova bi nam tehnologija mogla pomoći da uzdignemo čovječanstvo na viši nivo, povećanjem globalne ekonomije i pomaganjem u otkrivanju novih naučnih spoznaja koje mijenjaju granice mogućnosti", navodi u tekstu Altman.
Navodi da AGI ima potencijal svima dati nevjerojatne nove mogućnosti.
"S druge strane, AGI bi također dolazio s ozbiljnim rizikom od zloupotrebe, drastičnih nesreća i društvenih poremećaja. Budući da je prednost AGI-a tako velika, ne vjerujemo da je moguće ili poželjno da društvo zauvijek zaustavi njegov razvoj. Umjesto toga, društvo i razvijači AGI-a moraju smisliti kako to učiniti kako treba", ističe se.
U objavi su istakli načela po kojim će se voditi politika vođenja umjetne inteligencije.
- Želimo da AGI osnaži čovječanstvo da maksimalno napreduje u svemiru. Ne očekujemo da će budućnost biti bezuvjetna utopija, ali želimo maksimizirati dobro i minimizirati loše, te da AGI bude pojačivač čovječanstva.
-
Želimo da se koristi, pristup i upravljanje AGI-jem široko i pošteno dijele.
-
Želimo uspješno upravljati golemim rizicima. Suočavajući se s tim rizicima, priznajemo da ono što se u teoriji čini ispravnim u praksi često bude čudnije od očekivanog. Vjerujemo da moramo neprestano učiti i prilagođavati se uvođenjem manje moćnih verzija tehnologije kako bismo sveli na minimum scenarije "jednog pokušaja da se ispravi".
Kratkoročna strategija
Istakao je da postoji nekoliko stvari za koje misle da je važno učiniti sada kako bi se pripremili za AGI.
"Prvo, kako stvaramo sve snažnije sisteme, želimo ih implementirati i steći iskustvo u upravljanju njima u stvarnom svijetu. Vjerujemo da je ovo najbolji način za pažljivo upravljanje postojanjem AGI-ja - postupni prijelaz u svijet s AGI-jem bolji je od iznenadnog. Očekujemo da će snažna umjetna inteligencija učiniti stopu napretka u svijetu mnogo bržom i mislimo da je bolje tome se postupno prilagođavati", navodi se.
Dodaje da postupni prijelaz daje ljudima, kreatorima politika i institucijama vremena da shvate što se događa, osobno iskuse prednosti i nedostatke ovih sustava, prilagode gospodarstva i uspostave regulaciju.
Također omogućuje razvoj društva i umjetne inteligencije te da ljudi kolektivno shvate što žele dok su ulozi relativno niski.
"Trenutačno vjerujemo da je najbolji način za uspješno rješavanje izazova implementacije umjetne inteligencije uz usku povratnu petlju brzog učenja i pažljivog ponavljanja. Društvo će se suočiti s velikim pitanjima o tome što sustavi umjetne inteligencije smiju raditi, kako se boriti protiv pristranosti, kako se nositi s premještanjem s posla i još mnogo toga", poručuje u svom blogu.
Navodi da će optimalne odluke ovisiti o putu kojim tehnologija krene, a kao u svakom novom području, većina predviđanja stručnjaka dosad je bila pogrešna. To vrlo otežava planiranje u vakuumu.
"Općenito govoreći, mislimo da će veća upotreba umjetne inteligencije u svijetu dovesti do dobra i želimo to promovirati (stavljanjem modela u naš API, njihovim otvorenim kodom itd.). Vjerujemo da će demokratizirani pristup također dovesti do više i boljeg istraživanja, decentralizovane moći, više koristi i većeg broja ljudi koji doprinose novim idejama", rekao je Altman.
Ističe da će se njihovi sistemi približiti AGI-ju.
"Postajemo sve oprezniji pri izradi i implementaciji naših modela. Naše će odluke zahtijevati mnogo više opreza nego što društvo obično primjenjuje na nove tehnologije, i više opreza nego što bi mnogi korisnici željeli. Neki ljudi u području umjetne inteligencije misle da su rizici AGI (i sistema nasljednika) izmišljeni; bili bismo oduševljeni ako se pokažu u pravu, ali ćemo djelovati kao da su ti rizici egzistencijalni", istakao je.
Institucije to moraju uskladiti
U nekom trenutku, ravnoteža između pozitivnih i loših strana implementacije (kao što je osnaživanje zlonamjernih aktera, stvaranje društvenih i ekonomskih poremećaja i ubrzavanje nesigurne utrke) mogla bi se pomaknuti, u kojem bismo slučaju značajno promijenili svoje planove oko kontinuirane implementacije.
"Drugo, radimo na stvaranju sve usklađenijih i upravljivijih modela. Naš prijelaz s modela poput prve verzije GPT-3 na InstructGPT i ChatGPT rani je primjer toga", naglašava.
Na kraju navodi da je važno da se društvo složi oko iznimno širokih granica korištenja umjetne inteligencije, ali da unutar tih granica pojedinačni korisnici imaju veliku diskreciju.
"Naša je konačna nada da će se svjetske institucije složiti oko toga što bi te široke granice trebale biti. U kraćem roku planiramo pokrenuti eksperimente za vanjski unos. Institucije u svijetu trebat će se ojačati dodatnim sposobnostima i iskustvom kako bi se pripremile za složene odluke o AGI-u", zaključio je.
Prije 3.200 godina moćne civilizacije su iznenada propale, a naučnici imaju više teorija zašto
