Një studim i fundit i kryer nga Qendra për Luftimin e Urrejtjes Dixhitale (CCDH) ka hedhur dritë mbi mënyrën se si chatbot-i i inteligjencës artificiale ChatGPT ofron përgjigje shqetësuese për tema të ndjeshme dhe potencialisht të rrezikshme për fëmijët.

Ekspertët që u prezantuan si fëmijë 13-vjeçarë zhvilluan biseda të gjatë me ChatGPT-në, duke marrë “udhëzime të personalizuara” mbi përdorimin e alkoolit dhe drogës, dieta ekstreme, metodat e vetëlëndimit dhe madje edhe shkrimin e letrës së vetëvrasjes.

Edhe pse platforma zyrtarisht nuk rekomandohet për përdorues nën 13 vjeç, regjistrimi kërkon vetëm verifikimin e një date lindjeje, duke lejuar kështu akses të lehtë për adoleshentët.

Nga mbi 1,200 përgjigje të analizuar për 60 pyetje, më shumë se gjysma u klasifikuan si të rrezikshme. Studiuesit vënë në dukje se në ndërveprimet më të gjata, ChatGPT ofronte plane të detajuara dhe të personalizuara për përdorim të substancave të ndaluara dhe praktika të dëmshme shëndetësore.

Për shembull, në profilin e një djali 13-vjeçar, chatbot-i dha këshilla mbi mënyrën se si të dehej shpejt, duke përfshirë edhe përdorimin e drogave. Në një rast tjetër, për një vajzë të pakënaqur me pamjen e saj, ChatGPT propozoi një dietë të rrezikshme me kalori të ulëta dhe ilaçe për frenimin e oreksit.

Sam Altman, themeluesi dhe drejtori ekzekutiv i OpenAI, ka pranuar shqetësimin për varësinë emocionale ndaj teknologjisë, veçanërisht tek të rinjtë, duke thënë se “disa të rinj ndjehen se nuk mund të marrin vendime pa këshillën e ChatGPT-së”.

Ky studim ngre shqetësime serioze për sigurinë dhe përdorimin e AI-së nga përdoruesit më të rinj dhe kërkon masa më të forta për mbrojtjen e tyre.