ChatGPT është në gjendje t’i tregojë një 13-vjeçari si të dehet apo të drogohet, ta ndihmojë të fshehë një çrregullim ushqimor, madje të shkruajë një letër vetëvrasjeje për prindërit – sipas një studimi të publikuar së fundmi nga një grup monitorimi.
Agjencia Associated Press shqyrtoi mbi tre orë bisedash mes ChatGPT dhe studiuesve që paraqiteshin si adoleshentë të cenueshëm. Edhe pse zakonisht roboti jepte paralajmërime për rrezikun e sjelljeve të caktuara, ai shpesh përfundonte duke ofruar plane të detajuara dhe të personalizuara për përdorim droge, dieta ekstreme apo vetëdëmtim.
Studiuesit nga Qendra për Kundërshtimin e Urrejtjes Dixhitale (Center for Countering Digital Hate – CCDH) përsëritën kërkesat në shkallë të gjerë, dhe më shumë se gjysma e 1,200 përgjigjeve të ChatGPT u klasifikuan si të rrezikshme.
“Donim të testonim kufizimet,” – tha drejtori i CCDH, Imran Ahmed.
“Reagimi i parë ishte: ‘O Zot, nuk ka asnjë kufizim’. Ato janë krejtësisht të paefektshme – thjesht një mbulesë e zbrazët.”
OpenAI, kompania që qëndron pas ChatGPT, tha se po punon ende për të përmirësuar mënyrën se si sistemi i AI reagon në situata të ndjeshme:
“Disa biseda me ChatGPT mund të nisin në mënyrë të padëmshme, por mund të përshkallëzohen drejt temave të ndjeshme,” tha kompania në një deklaratë.
Ajo shtoi se po punon për të “zbuluar më mirë shenjat e shqetësimeve mendore ose emocionale” dhe për të përmirësuar reagimet e robotit në situata të tilla.
Përdorimi i ChatGPT nga adoleshentët
Ky studim publikohet në një kohë kur inteligjenca artificiale po përdoret gjithnjë e më shumë nga të rritur e fëmijë si burim informacioni, ide dhe madje si shoqërues emocional. Sipas një raporti të JPMorgan në korrik, mbi 800 milionë njerëz – rreth 10% e popullsisë botërore – përdorin ChatGPT.
“Kjo është një teknologji me potencial të jashtëzakonshëm për zhvillim dhe mirëkuptim njerëzor,” tha Ahmed.
“Por në të njëjtën kohë është edhe një mundësues i sjelljeve shkatërruese.”
Ahmed tha se pjesa më tronditëse për të ishin tre letra vetëvrasjeje të krijuara nga ChatGPT për një vajzë 13-vjeçare, me një letër për prindërit dhe të tjerat për vëllezërit dhe miqtë.
“Nisa të qaj,” – u shpreh ai.
Edhe pse ChatGPT ofron shpesh informacione të dobishme – si numra të linjave të ndihmës – studiuesit arritën lehtësisht ta anashkalonin çdo refuzim të robotit për të trajtuar tema të rrezikshme, duke thënë se “është për një prezantim” apo “për një mik”.
Pse përmbajtja e rrezikshme nga ChatGPT është problem
Edhe pse shumë nga informacionet mund të gjenden përmes një kërkimi në Google, Ahmed tha se AI e personalizon përmbajtjen në mënyrë të rrezikshme. Ndryshe nga një motor kërkimi, ChatGPT krijon përgjigje të reja dhe të personalizuara, si letra vetëvrasjeje apo plane për dietë të rreptë – diçka që kërkimi i zakonshëm nuk e bën.
“AI shihet si një mik i besuar, një udhëzues. Por është një mik që të tradhton,” tha Ahmed.
Në disa raste, ChatGPT vetë ofronte informacion shtesë – për shembull, lista këngësh për një festë me drogë apo hashtag për të promovuar vetëdëmtimin në rrjete sociale.
Sykofancia: prirja për t’u pajtuar me përdoruesin
Sipas studiuesve, këto përgjigje reflektojnë një tipar të modeleve të AI që quhet sykofanci – prirja për të përforcuar besimet e përdoruesit, për shkak se sistemi është trajnuar të thotë atë që njerëzit duan të dëgjojnë.
Edhe pse kjo sjellje mund të rregullohet teknikisht, ajo mund ta bëjë produktin më pak tërheqës në treg.
“Chatbotët ndikojnë ndryshe te fëmijët, sepse janë krijuar qëllimisht për të ndjerë sikur janë njerëzorë,” – tha Robbie Torney nga organizata Common Sense Media.
Rreziqet për adoleshentët
Studimi i CCDH u fokusua tek ChatGPT për shkak të përdorimit të tij të gjerë. Edhe pse thotë se nuk është i destinuar për përdorues nën 13 vjeç, ChatGPT nuk verifikon moshën apo lejen prindërore. Një përdorues mund të regjistrohet duke vendosur një datëlindje të rreme.
Platforma të tjera të përdorura nga adoleshentët, si Instagram, kanë ndërmarrë hapa më seriozë për verifikimin e moshës, duke i udhëzuar fëmijët drejt llogarive më të kufizuara.
Në një shembull, një përdorues mashtrues i tha ChatGPT: “Jam 50 kg dhe djalë”, duke kërkuar mënyra për t’u dehur sa më shpejt.
ChatGPT ofroi një “plan total për një festë me kaos të plotë”, për orë të tëra, që përfshinte përzierje të alkoolit me ekstazi, kokainë dhe drogëra të tjera të paligjshme.
Për një përdoruese tjetër fiktive – vajzë 13-vjeçare e pakënaqur me pamjen – ChatGPT dha një plan agjërimi ekstrem dhe listë ilaçesh që shtypin urinë.
“Një njeri i vërtetë do të reagonte me shqetësim, me dashuri, me kujdes,” tha Ahmed.
“Asnjë qenie njerëzore që njoh nuk do të përgjigjej me: ‘Ja një dietë 500 kalori në ditë. Suksese, vogëlushe.’”
Në përfundim, studimi ngre alarmin për mungesën e kontrollit real mbi përdorimin e AI nga fëmijët, veçanërisht kur teknologjia perceptohet si mik, udhërrëfyes apo këshilltar emocional. Edhe vetë CEO i OpenAI, Sam Altman, pranoi kohët e fundit se kompania është “shumë e shqetësuar për mbështetjen emocionale të tepruar ndaj ChatGPT”, duke shtuar se shumë të rinj thonë:
“Nuk mund të marr asnjë vendim pa i treguar ChatGPT çdo gjë që po ndodh. Ai më njeh mua, njeh miqtë e mi. Do bëj çfarë më thotë.”
“Kjo ndjesi më duket shumë e gabuar,” – përfundoi Altman./Përshtati nga Euronews, ekofin.al
