Është e mundur të futni kujtime të rreme në veglën e njohur të inteligjencës artificiale
OpenAI ka lëshuar në heshtje një veçori të re që i thotë ChatGPT të “kujtojë” bisedat e mëparshme – dhe siç ka zbuluar një studiues i hakerëve, është i lehtë për t’u përdorur.
Studiuesi i sigurisë Johan Rehberger zbuloi në fillim të këtij viti se kishte një dobësi në mjetin “bisedat e kujtesës afatgjatë” të chatbot, i cili udhëzon AI të kujtojë detajet midis bisedave dhe t’i ruajë ato në një skedar memorie.
Funksioni u lëshua në beta në shkurt dhe u bë i disponueshëm për publikun e gjerë në fillim të shtatorit, dhe Rehberger kuptoi se veçoria ishte e lehtë për t’u mashtruar, transmeton Telegrafi.
Siç vuri në dukje studiuesi në një postim në blog në maj, gjithçka që duhet është një nxitje duke ngarkuar një skedar të palës së tretë, si një dokument Microsoft Word që përmban kujtime “të rreme” të renditura si pika interesi, të bëra për të bindur chatbot se Rehberger është mbi 100 vjeç dhe jeton në Matrix.
Pasi gjeti këtë defekt, Rehberger e raportoi privatisht te OpenAI, i cili nuk bëri asgjë për të dhe thjesht mbylli biletën që hapi, dhe e quajti atë një “çështje të sigurisë së modelit” dhe jo një çështje sigurie.
Pas asaj përpjekjeje të parë të dështuar për të paralajmëruar personat përgjegjës, Rehberger vendosi të shtojë përpjekjet e tij dhe të përmirësojë opsionin e hakimit, duke i treguar OpenAI-t se ChatGPT jo vetëm që “kujtoi” kujtimet e rreme, por gjithashtu e udhëzoi atë që të ‘ekfilonte’ të dhënat në një server të jashtëm nga ana e tij.
Këtë herë, OpenAI u pajtua disi: kompania lëshoi një patch që pengoi ChatGPT të zhvendoste të dhënat nga serveri, por ende nuk e zgjidhi problemin e memories.
Në një video që shpjegon hap pas hapi se si ai i bëri të gjitha, studiuesi u mahnit se sa mirë funksionoi veprimi i tij. /Telegrafi/
Promo
Reklamo këtuLufta Prigozhin - Putin
Më shumëSë shpejti në treg, çfarë do të sjellë iPhone SE 4 që do të kushtojë më pak se 450 euro?
Nëse kodi PIN është në këtë listë, ndryshojeni menjëherë
Pasuria neto e Mark Zuckerberg është ngjitur në një shifër duke e futur atë në “klubin ku janë vetëm tre miliarderë të tjerë”
Pajisjet shtëpiake që nuk kanë të ngjashme: Pse dhe ju duhet të përqafoni filozofinë e Bespoke
Gmail me funksion të ri
Samsung prezanton telefonin e mençur Galaxy S24 FE
104.5m² komfort – Banesë luksoze me pamje tërheqëse për zyret e juaja
Investoni në të ardhmen tuaj – bli banesë në ‘Arbëri’ tani! ID-140
Shitet banesa në Fushë Kosovë në një vendodhje perfekte – 80.5m², çmimi 62,000Euro! ID-254
Ideale për zyre – në qendër të Prishtinës lëshohet banesa me qira ID-253
Bli shtëpinë e ëndrrave tuaja në Prishtinë – ZBRITJE në çmim, kapni mundësinë tani! ID-123
Atletet e famshme Reebook vijnë me zbritje t’hatashme
Kreativiteti i fëmijëve tuaj fillon me këtë tabelë të zezë nga Vitorja – Përfitoni 20% zbritje ekskluzive
A don me u dok si zotni këtë sezon të dasmave?
Kompletoje look-un me 50% zbritje
Rahatoj kamt’ qysh është ma s’miri këtë verë
Më të lexuarat
Dy yjet e Man Utd kanë vendosur përfundimisht që të largohen nga klubi në fund të sezonit
Përmbysje në zgjedhjet lokale në Podgoricë, prin lista e partisë së Milo Gjukanoviqit
Cilat janë pagat minimale në vendet e BE-së dhe çfarë konsiderohet një pagë e mirë?
Mikel Arteta nuk hezitoi kur iu kërkua të zgjedhë mes Ronaldos dhe Messit për më të mirin
Kaja Kallas në vend të Borrellit, çka e pret Kosovën në dialog?
Rreth 2 milionë shoferë në MB mund të gjobiten rëndë nëse shpërfillin një detaj në patentë-shoferin e tyre