Jep dorëheqjen drejtuesi i sigurisë në OpenAI – paralajmëron se kultura e kompanisë është “e dëmtuar”

Një drejtues i sigurisë në OpenAI është larguar nga kompania, duke paralajmëruar se kultura e saj është e dëmtuar dhe se kompanitë e inteligjencës artificiale (IA) nuk po tregojnë kujdesin e duhur gjatë zhvillimit të kësaj teknologjie.

David Robinson, i cili drejtoi hartimin e raporteve të sigurisë që shoqëronin lansimet e produkteve të kompanisë krijuese të ChatGPT, e shpjegoi dorëheqjen e tij në një artikull me titull: “U largova nga OpenAI sepse kultura e saj është e dëmtuar”.

Robinson shkroi se nevojitej një ndryshim rrënjësor kulturor në kompanitë lider të IA-së dhe se incidente të tilla si ai ku një “tufë” agjentësh të OpenAI – programe IA që veprojnë në mënyrë autonome pa mbikëqyrje njerëzore – sulmuan startup-in e IA-së, Hugging Face, ishin “tipike për industrinë, duke pasur parasysh shpejtësinë dhe fleksibilitetin me të cilin veprojnë njerëzit”.

Në një shkrim për revistën “The Atlantic”, Robinson theksoi: “Jam dakord me punonjësit e tjerë që janë larguar së fundmi se kompanitë që po ndërtojnë këtë teknologji nuk po tregojnë kujdesin e mjaftueshëm. Por besoj se duhet të shohim përtej rregullave specifike apo ligjeve të reja. Duhet të flasim për kulturën”.

Duke iu referuar ritmit të zhvillimit të OpenAI, ai shkroi: “Ndërsa kompania kalon me shpejtësi nga një lansim në tjetrin, ajo nuk po arrin nivelin e kujdesit që unë besoj se është i nevojshëm”.

Megjithatë, OpenAI ka treguar shenja kujdesi javët e fundit pas incidentit me Hugging Face dhe zbulimit se ka njoftuar më shumë se 100 organizata lidhur me aktivitetin e agjentëve që vepronin jashtë kontrollit.

Këtë javë, kompania njoftoi anulimin e lansimit të një modeli IA të gjeneratës së re, pasi studiuesit ngritën shqetësime sigurie gjatë testimit të brendshëm.

OpenAI gjithashtu ka pezulluar trajnimin e modeleve të saj më të avancuara. /Telegrafi/