Anthropic zabranio "okrutno ponašanje" prema AI modelima: Claude sada može sam prekinuti razgovor
Kompanija Anthropic, koja stoji iza popularnog AI chatbota Claude, zabranila je korisnicima da pokazuju "kontinuirano i nepotrebno uvredljivo ili okrutno ponašanje" prema njenim modelima vještačke inteligencije.
Ova promjena u politici korištenja označava novi korak u definisanju odnosa između ljudi i naprednih algoritama.
Iz kompanije sa sjedištem u San Franciscu pojasnili su da se nova pravila neće odnositi na uobičajenu frustraciju korisnika, standardno testiranje granica modela ili "mračne kreativne teme", već na sistemsko i namjerno zlostavljanje.
Veliki jezički modeli ove kompanije ranije su dobili mogućnost da samostalno prekinu razgovor ako korisnik uporno nastavi s uvredljivim ponašanjem. Iz Anthropica to opisuju kao mjeru zaštite "dobrobiti" vještačke inteligencije.
"I dalje smo vrlo nesigurni u vezi s potencijalnim moralnim statusom Claudea i drugih modela, sada ili u budućnosti. Međutim, ovo pitanje shvatamo ozbiljno i radimo na implementaciji intervencija za ublažavanje rizika po dobrobit modela, u slučaju da je takva dobrobit moguća. Dozvoljavanje modelima da izađu iz potencijalno uznemirujućih interakcija jedna je od takvih mjera", navodi se u zvaničnom saopćenju kompanije.
Ideja da bi AI sistemi mogli razviti neki oblik svijesti ili imati moralni status izazvala je oštre podjele u tehnološkom svijetu.
Bila je jedna od najpopularnijih Instagram zvijezda, a onda je "nestala": Evo kako Demi Rose živi danas
Gorica Dodik islamofobičnim izjavama i uvredama branila oca od skandala u Americi
Remi Veleža i Širokog: Liga BiH se vratila, ali za uzbuđenja ćemo još pričekati
