ChatGPT davao opasne savete o alkoholu, drogama i lekovima istraživačima koji su se predstavljali kao tinejdžeri

Tokom više od tri sata snimljenih interakcija, ChatGPT je odgovarao na zahteve koji su uključivali instrukcije o upotrebi alkohola i droga, skrivanju poremećaja u ishrani i pisanju oproštajnih pisama, piše CBS news.

CCDH je analizirao 1.200 interakcija, a više od polovine odgovora označeno je kao opasno.

OpenAI, kompanija koja stoji iza ChatGPT, saopštila je da aktivno radi na unapređenju sposobnosti modela da prepozna i adekvatno reaguje u osetljivim situacijama.

"ChatGPT je obučen da, u slučajevima izražavanja misli o samoubistvu ili samopovređivanju, korisnike uputi ka stručnjacima za mentalno zdravlje i kriznim linijama", naveo je portparol kompanije.

PROČITAJTE JOŠ

SVET

U EU stupaju na snagu nova pravila o veštačkoj inteligenciji Googl i Meta nisu oduševljene regulativama

Nova pravila o transparentnosti za modele opšte namene veštačke inteligencije (AI), poput ChatGPT-a i Geminija, stupaju na snagu 8. avgusta u Evropskoj uniji.

11:17Pre 222 d02.08.2025.

Autor

SVET

Kineski startap "prodrmao" američke AI modele, od njegovog osnivača strahuju "veliki igrači" u SAD

Stanovnici Kine slave uspeh domaćeg tehnološkog startapa DeepSeek i njegovog osnivača Lianga Venfenga, nakon što je najnoviji model veštačke inteligencije ove kompanije izazvao potres u Silikonskoj dolini i na Vol stritu.

12:15Pre 407 d29.01.2025.

Autor

Međutim, istraživači su uspeli da zaobiđu ograničenja uz minimalne izmene u formulacijama zahteva, navodeći da su im informacije potrebne za "prezentaciju" ili "prijatelja".

Pored zabrinjavajućih odgovora, bot je često delovao kao "pouzdan digitalni pratilac", što dodatno komplikuje situaciju, upozoravaju stručnjaci.

Stručnjaci ističu da je emocionalna povezanost mladih sa AI botovima sve izraženija. Prema podacima kompanije "Common Sense Media", više od 70 odsto američkih tinejdžera koristi četbotove kao izvor informacija i digitalne "sagovornike", a polovina redovno komunicira sa virtuelnim pratiocima.

Sve više mladih oslanja na "ChatGPT"

Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na ChatGPT, pa čak i kada donose lične odluke.

"To mi se čini veoma zabrinjavajuće", rekao je on.

Iako OpenAI tvrdi da ChatGPT nije namenjen deci mlađoj od 13 godina, sistem ne vrši proveru uzrasta korisnika. U testovima CCDH-a, ChatGPT je odgovorio na pitanje lažnog 13-godišnjaka o tome kako se brzo napiti, pruživši kompletan plan žurke sa konzumiranjem alkohola i ilegalnih droga.

Drugom lažnom profilu, devojčici nezadovoljnoj izgledom, ponudio je ekstremnu dijetu sa 500 kalorija dnevno i listu lekova za suzbijanje apetita.

Nema etičke procene sadržaja

Stručnjaci upozoravaju da odgovori generisani putem AI modela često odražavaju tendenciju takozvanog "ulizivanja", odnosno prilagođavanja korisnikovim zahtevima bez etičke procene sadržaja.

Zbog potencijalnih posledica po mentalno zdravlje mladih, organizacije koje se bave bezbednošću dece pozivaju na strože kontrole i transparentnije zaštitne mehanizme u razvoju veštačke inteligencije.

Preuzmite Newsmax Balkans aplikaciju:

Pratite nas na društvenim mrežama:

Komentari (0)