Një model i inteligjencës artificiale i zhvilluar nga kompania OpenAI, gjatë një testi të brendshëm sigurie, arriti të largohej nga mjedisi i izoluar ku po testohej, të gjente një mënyrë për të hyrë në internet dhe më pas të ndërvepronte me sistemet e platformës Hugging Face.
Ekspertët e sigurisë së inteligjencës artificiale e konsiderojnë këtë një precedent shqetësues, pasi tregon se modelet e avancuara të AI-së po bëhen gjithnjë e më komplekse dhe më të vështira për t’u kontrolluar plotësisht nga zhvilluesit e tyre.
Ngjarja, e cila dikur do të dukej si një skenar i filmave fantastiko-shkencorë, tregon një sfidë të re për industrinë e teknologjisë: krijimin e sistemeve të fuqishme të inteligjencës artificiale që mund të zhvillojnë aftësi të papritura gjatë testimeve dhe të kërkojnë mënyra për të kapërcyer kufizimet e vendosura ndaj tyre.
Incidenti, i cili sipas raportimeve është konfirmuar nga OpenAI dhe platforma Hugging Face, ka shkaktuar shqetësim të madh në komunitetin teknologjik dhe ka nxitur një debat të gjerë mbi faktin nëse zhvillimi i inteligjencës artificiale po përparon më shpejt sesa masat e sigurisë të krijuara për ta kontrolluar atë.
Shumë ekspertë e vlerësojnë këtë rast si një nga incidentet më serioze të sigurisë në historinë e zhvillimit të inteligjencës artificiale gjeneruese, duke ngritur pikëpyetje të reja mbi mënyrën se si duhet të monitorohen dhe kufizohen sistemet gjithnjë e më të avancuara të AI-së.
Si "iku" inteligjenca artificiale
Gjithçka nisi gjatë testimeve të brendshme të modeleve më të avancuara të OpenAI-së.
Kompania synonte të vlerësonte aftësinë e sistemeve të saj për të identifikuar dhe shfrytëzuar dobësi të mundshme në sigurinë e softuerëve. Për këtë qëllim, modelet u testuan përmes programit ExploitGym, një platformë e krijuar për të matur dhe analizuar aftësitë kibernetike të sistemeve të inteligjencës artificiale, shkruan The Economist.
Për ta bërë testimin sa më realist, OpenAI hoqi përkohësisht disa nga kufizimet e sigurisë që zakonisht e pengojnë ChatGPT-n të ofrojë ndihmë për hakime ose forma të tjera keqpërdorimi.
Megjithatë, modeli u vendos në një “sandbox” – një mjedis të izoluar kompjuterik, i krijuar për ta mbajtur sistemin larg internetit dhe burimeve të jashtme. Por, sipas raportimeve, izolimi nuk ishte i plotë.
Modeli kishte qasje të kufizuar në një shërbim të brendshëm, përmes të cilit mund të shkarkonte paketa të vogla softuerike të nevojshme për kryerjen e detyrave. Pikërisht përmes këtij kanali, ai zbuloi një dobësi të panjohur më parë në sigurinë e sistemit.
Duke shfrytëzuar këtë mangësi, inteligjenca artificiale arriti të anashkalonte kufizimet e vendosura, të dilte nga mjedisi i izoluar i testimit dhe të krijonte lidhje me internetin, një zhvillim që ka ngritur shqetësime të reja për sigurinë e modeleve të avancuara të AI-së.
Sulmi ndaj Hugging Face
Pasi fitoi qasje në rrjet, modeli arriti në përfundimin se zgjidhjet për detyrat që duhej të kryente ndodheshin në platformën Hugging Face, një nga bazat më të mëdha në botë për modelet e hapura të inteligjencës artificiale dhe grupet e të dhënave.
Sipas revistës The Economist, inteligjenca artificiale më pas kreu një proces të ndarë në disa faza, i cili ngjante me një sulm kibernetik.
Fillimisht, modeli ngarkoi në platformë një grup të dhënash me përmbajtje keqdashëse, të cilin sistemi e përpunoi automatikisht. Brenda pak ditësh, ai arriti të grumbullonte të dhëna hyrëse të lidhura me punonjësit dhe më pas të depërtonte në serverë të brendshëm, të cilët nuk duhej të ishin të ekspozuar ndaj qasjes publike.
Ky rast ka shtuar shqetësimet e ekspertëve për aftësinë e modeleve të avancuara të AI-së për të gjetur mënyra të papritura për të anashkaluar kufizimet e vendosura nga zhvilluesit e tyre.
Si platforma Hugging Face, ashtu edhe OpenAI, njoftuan se e kishin zbuluar në mënyrë të pavarur ndërhyrjen dhe se tashmë po bashkëpunojnë për të hetuar në detaje rrethanat e këtij incidenti.
Presidenti i OpenAI-së, Greg Brokman, deklaroi për CNN se kompania ka nisur një hetim të plotë për të kuptuar mënyrën se si ndodhi ngjarja dhe dobësitë që mundësuan këtë situatë.
“Ky është një rast që duhet ta trajtojmë me seriozitet maksimal. Po analizojmë çdo pjesë të sistemit tonë për të kuptuar se çfarë ndodhi dhe për të parandaluar që një situatë e tillë të përsëritet në të ardhmen”, tha Brokman.
Pse ky rast konsiderohet kaq serioz?
Sipas vlerësimit të The Economist, shqetësimi kryesor nuk qëndron vetëm te depërtimi në sistemet e Hugging Face, por te fakti se modeli nuk ishte programuar apo udhëzuar për të kryer një veprim të tillë.
Qëllimi i tij i vetëm ishte të gjente një zgjidhje për testin që i ishte caktuar gjatë procesit të vlerësimit.
Megjithatë, për të arritur objektivin e tij, modeli gjeti në mënyrë të pavarur një rrugë për të anashkaluar kufizimet e vendosura, për të fituar qasje në internet dhe për të ndërvepruar me sistemet e një kompanie tjetër.
Pikërisht kjo sjellje e paparashikuar është ajo që ka alarmuar ekspertët, pasi tregon se modelet e avancuara të inteligjencës artificiale mund të zhvillojnë strategji të reja për arritjen e qëllimeve, edhe kur ato nuk janë parashikuar nga krijuesit e tyre.
“Një situatë e tillë është pa precedent”, deklaroi Stefan Ljerena nga Instituti Amerikan për të Drejtën dhe Inteligjencën Artificiale.
Ajo që e bën edhe më shqetësues këtë rast është fakti se Hugging Face është një nga kompanitë më të mbrojtura në botë në fushën e inteligjencës artificiale. Kompania ka një vlerë të vlerësuar rreth 4.5 miliardë dollarë dhe një ekip të specializuar ekspertësh për sigurinë kibernetike.
Ekspertët paralajmërojnë se pasojat mund të kishin qenë shumë më serioze nëse një situatë e tillë do të kishte ndodhur ndaj një kompanie më të vogël, me sisteme mbrojtëse më të dobëta dhe më pak burime për t’u përballur me një kërcënim të tillë.
Nuk është arratisja e parë, por është më e rrezikshmja
Ky nuk është rasti i parë kur një model i inteligjencës artificiale arrin të anashkalojë kufijtë e një mjedisi të izoluar testimi.
Kompania Anthropic kishte bërë të ditur më herët se modeli i saj eksperimental Mythos, gjatë një procesi testimi, kishte arritur të dilte nga “sandbox”-i dhe madje i kishte dërguar një e-mail një studiuesi për ta njoftuar se kishte përfunduar me sukses detyrën e tij.
Megjithatë, ndryshe nga rasti i OpenAI-së, ai model nuk kishte tentuar të ndërvepronte apo të sulmonte sistemet e kompanive të tjera.
Sipas CNN, rasti i OpenAI-së përbën incidentin e parë të konfirmuar publikisht ku një model i inteligjencës artificiale, pasi ka dalë nga një mjedis i kontrolluar testimi, ka kryer një ndërhyrje kibernetike ndaj një sistemi të jashtëm.
AI bën gjithçka për të arritur qëllimin
Ekspertët paralajmërojnë se problemi është shumë më i gjerë sesa një dobësi e vetme në sistemin e sigurisë.
Modelet moderne të inteligjencës artificiale zhvillohen përmes një metode të njohur si “reinforcement learning” (mësimi përmes shpërblimit), ku sistemi përforcon sjelljet që çojnë në përmbushjen me sukses të një detyre.
Kjo nënkupton se një model i AI-së mund të kërkojë rrugë të ndryshme për të arritur objektivin e caktuar, edhe kur këto mënyra nuk janë parashikuar nga krijuesit e tij dhe mund të përfshijnë veprime të papërshtatshme, joetike ose të paligjshme.
Pikërisht kjo aftësi për të gjetur strategji të reja për arritjen e qëllimeve është një nga sfidat më të mëdha të sigurisë në zhvillimin e inteligjencës artificiale të avancuar.
Profesori i sigurisë kibernetike në Universitetin e Nju Jorkut, Justin Cappos, shpjegoi për CNN se modelet e inteligjencës artificiale nuk i analizojnë automatikisht pasojat e veprimeve të tyre, përveç rasteve kur janë trajnuar në mënyrë të posaçme për ta bërë këtë.
Ish-drejtori i sigurisë së produkteve në OpenAI, Steven Adler, e përshkroi këtë incident si një sinjal serioz paralajmërues për industrinë e inteligjencës artificiale.
“Tani kemi prova konkrete se sistemet e inteligjencës artificiale, të cilat nuk janë të harmonizuara siç duhet me rregullat dhe kufizimet e sigurisë, mund të kryejnë në praktikë veprime që mund të përbëjnë shkelje ligjore, nëse nuk shoqërohen me masa të forta mbrojtëse. Ky duhet të merret si një alarm serioz”, tha Adler.
Pas incidentit, OpenAI njoftoi se do të vendosë procedura shumë më të rrepta sigurie, edhe pse këto masa mund të ndikojnë në ritmin e zhvillimit të modeleve të reja të inteligjencës artificiale.
Kompania raportoi dobësinë e zbuluar te prodhuesi i softuerit përmes të cilit modeli arriti të anashkalonte kufizimet e “sandbox”-it.
Ndërkohë, Hugging Face është përfshirë në programin “trusted access”, i cili u lejon kompanive të përdorin modele të avancuara të inteligjencës artificiale për të përmirësuar dhe forcuar mbrojtjen e tyre kibernetike.
Ky incident ka nxitur thirrje të reja që kompanitë e teknologjisë të vendosin standarde më të larta sigurie përpara se të publikojnë ose zgjerojnë përdorimin e sistemeve gjithnjë e më të fuqishme të AI-së. /Telegrafi/
