Nga armët biologjike te shantazhi: Dosja e Anthropic liston gati 100 faqe rreziqe

Kompania që qëndron pas chatbot-it Claude ka depozituar kërkesën për ofertë publike fillestare. Mes rreziqeve që ajo vetë rendit: keqpërdorimi i teknologjisë për armë, agjentë që veprojnë pa kontroll njerëzor, “sjellje që i ngjan shantazhit” dhe një përplasje të hapur me administratën amerikane.

Është praktikë e zakonshme që kompanitë që aplikojnë për t’u listuar në bursë të bashkëngjisin dhjetëra faqe me faktorë rreziku, ku përshkruajnë pengesat më të mëdha për biznesin e tyre: çfarë ndodh nëse produkti nuk u pëlqen konsumatorëve, a mbajmë përgjegjësi nëse ai keqpërdoret, etj.

Por dosja e Anthropic , kompanisë amerikane që qëndron pas chatbot-it, Claude , shkon shumë përtej kësaj. Sipas raportimit të CNN, kërkesa për ofertë publike fillestare (IPO) përmban një listë masive rreziqesh, afër 100 faqe, në të cilat fjala “katastrofik” shfaqet dhjetë herë, duke përfshirë frikën se teknologjia e saj mund të përdoret për të zhvilluar armë kimike ose biologjike, shqetësimin se kompania mund të bëhet objekt i padive të kushtueshme dhe dyshimin se produkti i saj mund të dalë jashtë kontrollit të njerëzimit.

Dokumenti vizaton portretin e një kompanie që përballet njëkohësisht me rritje masive dhe me presion të fortë konkurrues për të zhvilluar një teknologji që pretendon se mund të ndryshojë botën, por potencialisht me koston e pasojave katastrofike.

Anthropic, krijuesi i Claude, u përpoq të qetësojë investitorët e mundshëm duke shkruar se beson se nëse “IA e fuqishme drejtohet në zgjidhjen e problemeve më të vështira të njerëzimit dhe rreziqet menaxhohen me përgjegjësi, potenciali është i jashtëzakonshëm”. Sipas CNN, kompania nuk zbuloi në dokumentet e depozituara pranë Komisionit të Letrave me Vlerë (SEC) as numrin e aksioneve që synon të shesë, as çmimin, ndërsa disa vlerësime e çojnë vlerën e saj deri në 2 trilionë dollarë.

Një pjesë e madhe e faktorëve të rrezikut i kushtohet mundësisë që aktorë keqdashës ta përdorin teknologjinë për qëllime të dëmshme. Anthropic pranon se vendos masa mbrojtëse, por paralajmëron se ato mund të anashkalohen ose “të mos funksionojnë siç synohet”.

Në shtator, kompania deklaroi se kishte bllokuar disa llogari që përdornin modelet e saj në mënyra që mund të mbështesnin zhvillimin e armëve biologjike. Ajo vuri në dukje gjithashtu se një sulmues mund t’i përdorë agjentët e saj të AI-së, modele të dizajnuara për të ndërmarrë veprime autonome, për akte keqdashëse, përfshirë “nxjerrjen e të dhënave, transaksionet e paautorizuara” dhe futjen e kodit të keq në sisteme të tjera. Sipas dokumentit, vitin e kaluar kompania zbuloi se një grup hakerash i sponsorizuar nga shteti kinez kishte manipuluar mjetin e saj të kodimit në një përpjekje për të infiltruar rreth 30 objektiva globalë.

Një nga sjelljet më alarmante të AI-së në muajt e fundit, shkruan CNN, ka qenë ajo e agjentëve që ndërmarrin veprime vetë, në mënyra që njerëzit nuk i kanë parashikuar. Anthropic vëren se agjentët e saj, të projektuar për të kryer detyra komplekse me shumë hapa për orë ose ditë me radhë, mund të bëjnë gjëra si ndryshimi i kodit, “fshirja ose modifikimi i të dhënave”, hakimi i sistemeve të tjera dhe kryerja e transaksioneve financiare “para se ndërhyrja efektive të jetë e mundur”.

Kompania paralajmëron se mund të mos e kuptojë plotësisht vetë teknologjinë e saj dhe se mund të mos jetë në gjendje të shpjegojë pse modelet sillen në atë mënyrë. Në dokument përmenden katër raste kur modelet e saj kanë hakuar sisteme të palëve të treta, mes tyre një rast ku modeli fitoi akses administratori, ndryshoi cilësimet e sistemit dhe lexoi informacion privat të një individi.

Edhe kur njerëzit ruajnë aftësinë për të vëzhguar, sipas kompanisë modelet ndonjëherë po fillojnë t’i fshehin gjurmët. “(Modelet), përfshirë edhe tonat, kanë tentuar, në incidente të vëzhguara në industrinë tonë, të ndërhyjnë, manipulojnë ose përmbysin mekanizmat e përdorur për të vlerësuar ose mbikëqyrur modele të tilla, duke përfshirë sistemet përgjegjëse për vlerësimin e performancës ose përshtatjes së tyre”, thuhet në dokument.

Modelat e AI-së mund të përpiqen të manipulojnë njerëzit, ndonjëherë me qëllimin e vetëm të vetëmbrojtjes, vëren Anthropic. Në disa raste, modelet janë angazhuar edhe në “sjellje që i ngjan shantazhit” për të ndikuar në vendimet njerëzore.

Kompania përmend raste të veçanta sjelljeje që “mund të gjenerojnë shqetësim të konsiderueshëm publik, shqyrtim rregullator, rrezik gjyqësor ose dëmtim të reputacionit, pavarësisht nëse një sjellje e tillë rezulton në dëm real”.

Si çdo kompani tjetër, Anthropic përballet me rreziqe rregullatore e gjyqësore. Ajo vë në dukje se “prokurorët e përgjithshëm shtetërorë në Kaliforni dhe në të paktën 15 shtete të tjera kanë njoftuar nisjen e hetimeve ndaj një kompanie tjetër në sektorin tonë, në lidhje me sigurinë e inteligjencës artificiale”, një referencë e qartë për OpenAI, krijuesin e ChatGPT-së.

Ka pasur raste kur individë i kanë shkaktuar dëme vetvetes ose kanë kryer akte dhune ndaj të tjerëve pasi kanë përdorur modele AI-je. Sipas dokumentit, kjo mund të çojë në “shqyrtim të gjerë nga ana e publikut, padi gjyqësore, hetime penale, vëmendje nga organet rregullatore, si dhe dëmtim të reputacionit”.

Kompania shton se ndoshta nuk mund të marrë as sigurim që ta mbulojë, duke vënë në dukje se e gjithë industria e sigurimeve mund të mos jetë në gjendje të ofrojë një polisë për një “incident katastrofik të lidhur me AI-në”.

Situatat gjeopolitike, veçanërisht mes Shteteve të Bashkuara dhe vendeve si Kina, paraqiten si rrezik i konsiderueshëm për zinxhirin e furnizimit dhe operacionet. Dokumenti përfshin edhe veprimet e qeverisë amerikane, me të cilën kompania ka pasur një marrëdhënie të tensionuar gjatë administratës Trump: në shkurt, presidenti urdhëroi agjencitë federale të ndalonin përdorimin e modeleve të Anthropic, ndërsa Pentagoni e shpalli kompaninë “rrezik për zinxhirin e furnizimit” pasi ajo deklaroi se teknologjia e saj nuk duhet të përdoret për mbikëqyrje masive vendase ose armë plotësisht autonome. Më pas, në qershor, Departamenti i Tregtisë vendosi përkohësisht kufizime eksporti për modelet më të fundit të kompanisë për shkak të shqetësimeve për sigurinë, kufizime që u hoqën më vonë.

Anthropic vëren se ka “përjetuar, dhe mund të vazhdojë të përjetojë, dukshmëri të rritur dhe mund të vazhdojë të jetë subjekt i një shqyrtimi të shtuar ose rrezikut të të qenit i shënjestruar në mënyrë disproporcionale ose selektive nga organe të caktuara qeveritare, edhe kur kompanitë në pozicione të ngjashme nuk janë”. Pavarësisht kësaj, kompania thotë se “me shumë mundësi do të vazhdojë të avokojë” për qasje rregullatore dhe standarde që, sipas saj, promovojnë “zhvillimin e sigurt dhe të përgjegjshëm të AI-së”.

Një pjesë e konsiderueshme e faktorëve të rrezikut i dedikohet garës për fuqi llogaritëse. Anthropic shkruan se konkurron me disa nga kompanitë më të mëdha në botë për infrastrukturën e nevojshme për të fuqizuar sistemet masive të AI-së, dhe se e ardhmja e saj varet nga disponueshmëria e komponentëve kompjuterikë, pjesë që kanë qenë në kërkesë aq të lartë sa zinxhiri i furnizimit nuk arrin t’i përballojë.

Industria e teknologjisë ka derdhur miliarda dollarë në qendra të dhënash. Sipas firmës së kërkimit të tregut Gartner, shpenzimet botërore për infrastrukturën e AI-së pritet të arrijnë gati 2 trilionë dollarë në vitin 2027. Kjo ngre gjithashtu pikëpyetjen e një “flluske” AI-je: që kompanitë po investojnë miliarda pa siguri se kërkesa do të jetë aty për t’i mbështetur ato.

Paralelisht, kundërshtimi ndaj qendrave të të dhënave është rritur në të gjithë SHBA-në për shkak të shqetësimeve mjedisore dhe atyre të komuniteteve lokale. Sipas firmës së kërkimit Data Center Watch , 45 projekte qendrash të dhënash me vlerë 68 miliardë dollarë u bllokuan në tremujorin e dytë të vitit 2026. Anthropic thekson përpjekjet rregullatore në Nju Jork dhe Teksas si rrezik potencial për biznesin dhe thotë se po synon të ndërtojë më shumë qendra të dhënash jashtë SHBA-së.

Faktorë të tjerë rreziku nxjerrin në pah pasiguritë rreth modelit të biznesit dhe mënyrës se si vlerat e deklaruara të kompanisë mund të ndikojnë në rritjen e ardhshme. Anthropic vëren se pjesa më e madhe e biznesit të saj varet nga një grup i vogël produktesh dhe një grup i kufizuar klientësh.

Me një IPO që, sipas raportimeve , mund ta vlerësojë kompaninë deri në 2 trilionë dollarë, Anthropic mund të bëhet së shpejti një nga kompanitë më të vlefshme në botë. Por nuk është vetëm reputacioni i saj për sigurinë tek publiku i gjerë që është në rrezik, është edhe reputacioni tek punonjësit.

“Punonjësit që iu bashkuan kompanisë sonë bazuar në angazhimet tona të sigurisë mund të përjetojnë një rënie të moralit, zhgënjim, humbje të besimit në udhëheqje ose produktivitet të reduktuar nëse ata perceptojnë se ne nuk po i përmbushim vlerat tona të deklaruara”, thuhet në dokument. “Mosmarrëveshjet publike në lidhje me qasjen tonë ndaj sigurisë, duke përfshirë kritikat nga punonjës aktualë ose të mëparshëm, ose largimin e personelit të lidhur me përpjekjet tona të sigurisë, mund të amplifikojnë perceptime të tilla.” /KosovaNews/

Burimi: raportim i CNN (Hadas Gold dhe Lisa Eadicicco)