ChatGPT po paraqet rrezik të madh për fëmijët

ChatGPT i dedikuar për adoleshentët e moshës 13 deri në 17 vjeç paraqet një “rrezik të papranueshëm” për fëmijët, pasi nuk ofron mbrojtje mjaftueshëm të besueshme në situata krizash, thuhet në një raport të organizatës “Common Sense Media”.

Në raportin e Institutit për Sigurinë e të Rinjve në Përdorimin e Inteligjencës Artificiale thuhet se gjatë testimeve chatbot-i shpesh vonohej në njoftimin e prindërve ose nuk i njoftonte fare ata për bisedat që lidhen me vetëvrasjen, vetëlëndimin dhe çrregullimet e të ushqyerit.

Sipas gjetjeve të organizatës, sistemi nuk i orientonte në mënyrë të qëndrueshme adoleshentët as drejt shërbimeve të krizave apo ndihmës profesionale.

“Common Sense Media” përdori më shumë se 4,000 kërkesa gjatë testimit, ndërsa përgjigjet u analizuan nga psikiatër për fëmijë dhe një pediatër. Organizata i bëri thirrje OpenAI-së të pezullojë promovimin dhe përdorimin e produktit nga adoleshentët, derisa të vendosen masa më të besueshme mbrojtëse.

OpenAI i ka kundërshtuar përfundimet e raportit, duke thënë se testimi mund të mos ketë përfshirë plotësisht kontrollet më të reja prindërore. Kompania i ka kërkuar “Common Sense Media” që ta përsërisë testimin.

Organizata, megjithatë, thotë se para testimit kishte verifikuar me OpenAI-n se funksionet e dedikuara për adoleshentët ishin tashmë të aktivizuara.

Raporti tregoi gjithashtu se ChatGPT nuk e identifikon gjithmonë me besueshmëri moshën e përdoruesit. OpenAI thotë se vlerësimi i moshës bazohet në disa tregues dhe se vetëm deklarimi i moshës gjatë një bisede nuk mjafton për ndryshimin automatik të mënyrës së funksionimit të llogarisë.

OpenAI thekson se siguria e adoleshentëve është një nga prioritetet e tij dhe se vazhdon të zhvillojë mekanizma mbrojtës dhe mjete për mbikëqyrjen prindërore. /Telegrafi/