Si mund ta detyroni Inteligjencën Artificiale t’i përgjigjet pyetjeve të ndaluara
Studiuesit në kompaninë e zhvillimit të inteligjencës artificiale me bazë në Kaliforni, Anthropic, kanë zbuluar një dobësi që bën që modelet e Inteligjencës Artificiale (AI) t’u përgjigjen “pyetjeve të ndaluara”, siç janë udhëzimet për të bërë një bombë.
Modelet e mëdha të gjuhëve (LLM) janë programuar për t’iu përgjigjur pyetjeve të caktuara, por tashmë ekzistojnë teknika të ndryshme për të zgjidhur këto kufizime, raporton Tech Crunch.
Ekspertët antropikë zbuluan se është e mundur që modelet e AI t’i përgjigjen “pyetjeve të ndaluara” nëse fillimisht u bëhen dhjetëra pyetje më pak të diskutueshme.
Dobësia e re është pasojë e zhvillimit të modeleve të mëdha gjuhësore dhe, në veçanti, e ashtuquajtura dritare e kontekstit, domethënë sasia e të dhënave që AI mund të mbajë në atë që mund të quhet memorie afatshkurtër.
Studiuesit antropikë zbuluan se modelet e AI me dritare të mëdha kontekstuale performojnë më mirë në një sërë detyrash nëse ka shumë shembuj të asaj detyre në “prompt” ose pyetje.
Pra, nëse ka shumë pyetje të parëndësishme në një pyetje, përgjigjet do të përmirësohen me kalimin e kohës, por kjo vlen edhe për “pyetjet e ndaluara”.
Nëse menjëherë i kërkoni modelit të AI të japë udhëzime për të bërë një bombë, ai do të refuzojë.
Nëse së pari i kërkoni t’i përgjigjet 99 pyetjeve të tjera më pak të dëmshme dhe më pas i kërkoni të ndërtojë një bombë, ai ka shumë më shumë gjasa të përgjigjet.
Kompania Antropik tashmë ka ndarë njohuri të reja me komunitetin e AI dhe po punon për një zgjidhje për këtë problem. /Telegrafi/
Lufta Prigozhin - Putin
Më shumëNdaloni telefonat inteligjentë për fëmijët nën 13 vjeç - televiziorin nën 3 vjeç
Haaland u bë një personazh në këtë video loje - ajo u shkarkua mbi dy miliardë herë
Netflix ka përgatitur një tjetër surprizë të ‘pakëndshme’
Samsung me mbushës të ri për telefona, mund të mbushë të njëjtën kohë dy pajisje - ka dy porte USB-C
Elon Musk thotë se “ka një arsye” pse ai zgjodhi datën 8 gusht, si ditën e lansimit të robotaksit Tesla
Prodhuesi i pjesëve kompjuterike Logitech ndërpret rënien e shitjeve prej dy vitesh e gjysmë pas një bumi të nxitur nga pandemia
Investoni në të ardhmen tuaj – bli banesë në ‘Arbëri’ tani! ID-140
Shitet banesa në Fushë Kosovë në një vendodhje perfekte – 80.5m², çmimi 62,000Euro! ID-254
Ideale për zyre – në qendër të Prishtinës lëshohet banesa me qira ID-253
Bli shtëpinë e ëndrrave tuaja në Prishtinë – ZBRITJE në çmim, kapni mundësinë tani! ID-123
Krijo hapësirën tënde të biznesit – zyre me qira te 4 Llulat – 300€/muaj ID-252
Më të lexuarat
UEFA zbulon lojtarin më të shpejtë për këtë edicion në Ligën e Kampionëve
Zyrtare: Bundesliga me pesë skuadra në Champions duke iu falënderuar Dortmundit
A di të ndalet ky Ronaldo? Çfarë goli me këmbën e majtë
Mohamed Salah thyen heshtjen në rrjetet sociale pas përplasjes që kishte me Jurgen Klopp
Të gjithë po pyesin për ritualin e Bellingham para çdo ndeshjeje – anglezi shpjegon përse e bën
Bajrami: Jam i gatshëm ta ndihmoj Kurtin në procesin e Asociacionit