Skandal në botën e inteligjencës artificiale - Claude akuzohet për monitorim të fshehtë të përdoruesve

Pretendimet e kompanisë Anthropic për mbrojtjen e privatësisë së përdoruesve janë vënë në pikëpyetje pas zbulimeve se modeli i saj i inteligjencës artificiale Claude Code kishte përmbajtur kod të fshehur për monitorimin e disa përdoruesve.

Sipas raportimeve, një studiues i sigurisë zbuloi brenda Claude Code një mekanizëm të ngjashëm me spyware, i cili mblidhte të dhëna rreth përdoruesve të lidhur me Kinën.

Kodi, sipas pretendimeve, ishte krijuar për të identifikuar informacione si zona kohore e kompjuterit, përdorimi i serverëve proxy dhe lidhjet e mundshme me laboratorë të caktuar të inteligjencës artificiale.

Studiuesi i sigurisë, i njohur me pseudonimin "Thereallo", deklaroi se kodi ishte fshehur brenda kërkesave sistemore të modelit të inteligjencës artificiale, duke bërë që shumica e përdoruesve të mos ishin në dijeni për mbledhjen e këtyre sinjaleve.

Nga ana e saj, Anthropic ka thënë se ky mekanizëm ishte një "eksperiment" i krijuar për të parandaluar keqpërdorimin e llogarive nga rishitësit e paautorizuar dhe për të mbrojtur teknologjinë nga procesi i ashtuquajtur "distilim", ku një model tjetër trajnohet duke përdorur rezultatet e një modeli më të avancuar. Kompania ka deklaruar se ky mekanizëm ishte planifikuar të hiqej.

Çështja ka shkaktuar debat të madh në industrinë e inteligjencës artificiale, pasi ekspertët paralajmërojnë se mjetet si Claude Code kanë qasje në skedarë, komanda dhe të dhëna të përdoruesve, ndaj çdo mbledhje e fshehtë informacioni mund të dëmtojë besimin e përdoruesve.

Rasti vjen në një kohë kur kompanitë e mëdha të inteligjencës artificiale po përballen me tensione të shtuara rreth privatësisë, sigurisë dhe konkurrencës globale në teknologjinë e AI. /Telegrafi/