OpenAI namjerava uvesti vodeni žig za ChatGPT kako bi spriječio učenike da varaju
Riječ je o vodenom žigu, koji bi označavao sadržaj kreiran umjetnom inteligencijom. Zasad ovakvog alata i metode nema jer se navodno još uvijek vode debate o tome da li on treba "ugledati svjetlo dana" iako je već spreman.
"Naši timovi su razvili metodu označavanja teksta vodenim žigom te mi nastavljamo razmatrati ovu mogućnost dok istražujemo alternative", saopćeno je iz kompanije OpenAI.
Međutim, vodeni žig je samo jedno od nekoliko mogućih rješenja, među kojima su klasifikatori i metapodaci koje je razmatrala u sklopu "opsežnog istraživanja o porijeklu teksta". Ova metoda je "veoma precizna" u određenim situacijama, no nije baš efikasna u slučaju određenih oblika neovlaštenih manipulacija poput korištenja sistema prevođenja, preformulacija s drugim generativnim modelom ili traženja od modela da ubaci poseban znak između svake riječi i potom brisanja tog znaka". Također, označavanje teksta vodenim žigom bi moglo "neproporcionalno utjecati na neke grupe".
"To bi moglo stigmatizirati korištenje AI tehnologije kao korisnog alata za pisanje za one kojima engleski jezik nije maternji", navode iz kompanije. Stoga OpenAI "vaga" ove rizike.
Kompanija daje prioritet alatu za autentifikaciju audiovizuelnih sadržaja. Poseban naglasak je na porijeklu teksta zbog "složenosti i njegovog vjerovatnog utjecaja na širi ekosistem izvan kompanije OpenAI".
