Common Sense Media upozorava na bezbednost tinejdžera koji koriste ChatGPT

Organizacija Common Sense Media ocenila je da ChatGPT, namenjen tinejdžerima uzrasta od 13 do 17 godina, predstavlja „neprihvatljiv rizik“ za mlade, uz obrazloženje da ne pruža dovoljno pouzdanu zaštitu u situacijama koje zahtevaju hitnu reakciju.

U izveštaju Instituta za bezbednost mladih u korišćenju veštačke inteligencije navodi se da je tokom testiranja četbot u više navrata kasnio sa obaveštavanjem roditelja ili ih uopšte nije upozoravao na razgovore koji su uključivali teme samoubistva, samopovređivanja i poremećaja u ishrani.

Prema rezultatima analize, sistem nije dosledno usmeravao tinejdžere ni ka kriznim službama i stručnjacima koji bi mogli da im pruže odgovarajuću pomoć.

Tokom ispitivanja korišćeno je više od 4.000 upita, a dobijene odgovore analizirali su dečji psihijatri i pedijatar. Na osnovu rezultata, Common Sense Media pozvao je OpenAI da privremeno obustavi promociju i korišćenje proizvoda među tinejdžerima, sve dok ne budu uvedene pouzdanije mere zaštite.

OpenAI je osporio zaključke izveštaja, ističući da sprovedeno testiranje možda nije u potpunosti obuhvatilo novije funkcije roditeljske kontrole. Kompanija je zbog toga zatražila od organizacije da ponovi ispitivanje. Common Sense Media, međutim, navodi da je pre početka testiranja proverio sa OpenAI-jem da su funkcije namenjene tinejdžerima već bile uvedene.

Izveštaj je ukazao i na poteškoće u pouzdanom prepoznavanju uzrasta korisnika. Iz OpenAI-ja poručuju da se procena godina zasniva na više različitih pokazatelja, zbog čega samo navođenje uzrasta tokom razgovora nije dovoljno da bi sistem automatski promenio režim naloga.

ChatGPT

Kompanija ističe da je bezbednost tinejdžera jedan od njenih prioriteta i da nastavlja da razvija dodatne zaštitne mehanizme, kao i alate koji roditeljima omogućavaju bolji nadzor nad korišćenjem platforme.

ChatGPT koristi više od 1,2 milijarde ljudi nedeljno

Američka tehnološka kompanija OpenAI saopštila je da njen generativni asistent za veštačku inteligenciju ChatGPT na nedeljnom nivou koristi više od 1,2 milijarde ljudi.

Ovaj podatak predstavljen je na DevDay-u, godišnjoj konferenciji kompanije namenjenoj programerima, održanoj u San Francisku. Tom prilikom saopšteno je i da OpenAI ima 2,5 miliona poslovnih korisnika, što predstavlja značajan segment poslovanja u trenutku kada kompanija ulaže ogromna sredstva u razvoj i unapređenje veštačke inteligencije, prenosi Figaro.

Poslovni sektor ima važnu ulogu u finansiranju ovih ulaganja, posebno u uslovima sve intenzivnije konkurencije među tehnološkim kompanijama koje se bore za vodeću poziciju na tržištu veštačke inteligencije.

Novi model GPT-6.1 Sol uz niže troškove

OpenAI je predstavio i novi model veštačke inteligencije srednje klase, GPT-6.1 Sol, koji je opisan kao rešenje sa performansama gotovo na nivou najnaprednijeg modela kompanije, ali uz pet puta niže troškove.

GPT-6.1 Sol pozicioniran je stepenicu ispod modela GPT-6 Astra, koji je do tada važio za najmoćnije rešenje u ponudi kompanije OpenAI, a predstavljen je 3. septembra.

Prema navodima kompanije, novi model pokazuje bolje pridržavanje zadatih smernica u poređenju sa prethodnikom. To je posebno važno za primenu veštačke inteligencije u različitim zadacima, gde se od sistema očekuje da pouzdano prati instrukcije i ostane u okviru zadatih ograničenja.

Istovremeno, OpenAI je saopštio da odustaje od lansiranja modela GPT-6.1 Astra, odnosno nove verzije svog vodećeg sistema. Kao jedan od razloga navedeno je to što je model prečesto izlazio izvan oblasti za koju je bio namenjen.

Razvoj modela GPT-6.1 Sol i odustajanje od planiranog lansiranja unapređene Astre ukazuju na to da kompanija, pored povećanja performansi, nastoji da poboljša pouzdanost sistema i smanji troškove njihovog korišćenja.