Tmerri me të cilin përballen moderatorët e Facebook-ut

Nga: David Pilling në Najrobi dhe Madhumita Murgia në Londër / The Financial Times
Përktheu: Agron Shala / Telegrafi.com

Sipas vlerësimit, Trevin Brownie ka parë më shumë se 1 000 njerëz të cilëve i pritet koka.

Në punën që ai ka, duhet të shikojë – afërsisht në çdo 55 sekonda – një video të re në Facebook, thotë ai, duke hequr dhe kategorizuar përmbajtjen më të dëmshme dhe më shqetësuese. Për ditën e tij të parë i kujton të vjellat nga neveria, pasi ka parë një video të një burri që bën vetëvrasje para fëmijës së vet trevjeçar.

Pas kësaj, gjërat u përkeqësuan. “Pranoni pornografi me fëmijë, animalizëm, nekrofili, lëndime ndaj njerëzve, ndaj kafshëve, përdhunime”, thotë ai me zërin që i dridhet. “Si përdorues, nuk e shihni këtë në Facebook. Është detyra ime, si moderator, të sigurohem që ju të mos e shihni”.

Pas pak, thotë ai, tmerret e pandërprera fillojnë të ndikojnë te moderatori në mënyrat e papritura. “Arrin në pikën kur pasi ke parë 100 prerje kokash, në të vërtetë fillon të shpresosh se tjetra do të jetë më e tmerrshme. Është një lloj varësie”.

Brownie është një nga disa qindra të rinjtë, shumica në të 20-at, të cilët u rekrutuan nga Sama – një kompani me burime të jashtme me qendër në San Francisko – për të punuar në qendrën e saj në Najrobi e për ta moderuar përmbajtjen në Facebook.

Afrikano-jugori tashmë është pjesë e një grupi prej 184 personave që kanë bërë padi kundër Sama-s dhe pronarit të Facebook-ut, Meta, për shkelje të dyshuara të të drejtave të njeriut dhe për ndërprerje të gabuar të kontratave.

Rasti është një nga më të mëdhenjtë e këtij lloji, kudo në botë, por njëri nga tre të tjerë që po ndiqet kundër Meta-s në Kenia. Së bashku, rastet kanë implikime potencialisht globale për kushtet e punësimit të një ushtrie të fshehur prej dhjetëra mijëra moderatorëve, të punësuar për të filtruar materialin më toksik nga rrjetet e mediave sociale në botë, thonë avokatët.

Në vitin 2020, Facebook-u pagoi 52 milionë dollarë për ta zgjidhur një padi dhe për të ofruar trajtim të shëndetit mendor për moderatorët e përmbajtjes amerikane. Rastet e tjera të paraqitura nga moderatorë në Irlandë, kanë kërkuar kompensim për çrregullimin të pretenduar të stresit post-traumatik.

Por, rastet keniane janë të parat e paraqitura jashtë ShBA-së që kërkojnë që përmes procedurave gjyqësore të ndryshojnë mënyrën se si trajtohen moderatorët e përmbajtjes në Facebook. Nëse do të kenë sukses, ata mund të çajnë më shumë rrugën në vendet ku Meta dhe ofruesit e tjerë të mediave sociale shfaqin përmbajtje përmes ofruesve të palëve të treta, duke përmirësuar potencialisht kushtet për mijëra punëtorë të paguar relativisht pak për ekspozim ndaj më të keqes së njerëzimit.

Ashtu sikurse kushtet e vështira nëpër fabrika ose thithja e pluhurit të qymyrit që i shkatërroi trupat e punëtorëve në epokën industriale – thonë avokatët e moderatorëve – po ashtu edhe ata që punojnë në sistemet digjitale të mediave sociale rrezikojnë t’ju shkatërrohet mendja.

“Këto janë çështjet e rendit të parë për të drejtat e punës së kësaj gjenerate”, thotë Neema Mutemi, pedagoge në Universitetin e Najrobit që ndihmon në publikimin e rastit. Kur iu kërkua përgjigja ndaj akuzave, Meta tha se nuk komenton për çështjet gjyqësore që po vazhdojnë.

Vitet e fundit Meta ka qenë nën presion të shtuar për të moderuar të keqen dhe dezinformimin në platformat e saj, të cilat përfshijnë Facebook-un, WhatsApp-in dhe Instagram-in.

Në Mianmar ajo u përball me akuzat se algoritmet e saj përforcuan gjuhën e urrejtjes dhe se nuk arriti të heq postimet që nxisin dhunën kundër pakicës rohingja, mijëra prej të cilëve u vranë dhe qindra-mijëra prej të cilëve u larguan për në Bangladesh.

Në Indi ekspertët pretenduan se nuk arriti të shtypte dezinformimin dhe nxitjen e dhunës, duke çuar në trazirat në vend – në tregun e saj më të madh.

Në vitin 2021, sinjalizuesi Frances Haugen zbuloi mijëra dokumente të brendshme që tregonin për qasjen e kompanisë për mbrojtjen e përdoruesve të vet dhe ajo i tha Senatit të ShBA-së se kompania i jepte përparësi “fitimit mbi sigurinë”.

Dokumenti tregoi se Meta veçanërisht dështoi të filtronte përmbajtjen përçarëse dhe që t’i mbrojë përdoruesit në vendet joperëndimore, si Etiopia, Afganistani dhe Libia, edhe kur vetë hulumtimi i Facebook-ut i shënoi ata “në rrezik të lartë” – për shkak të peizazhit të tyre të brishtë politik dhe shpeshtësisë së gjuhës së urrejtjes.

Në vitet e fundit, Meta ka investuar miliarda dollarë për t’i trajtuar dëmet në aplikacionet e veta, duke rekrutuar rreth 40 mijë njerëz për të punuar për mbrojtjen dhe sigurinë, shumica të kontraktuar përmes grupeve të jashtme të palëve të treta, si Accenture, Cognizant dhe Covalen.

Janë rreth 15 mijë moderatorë të përmbajtjes. Jashtë ShBA-së, Meta punon me kompani në më shumë se 20 vende anembanë botës, përfshirë Indinë, Filipinet, Irlandën dhe Poloninë, të cilat tani ndihmojnë në analizimin e përmbajtjes në shumë gjuhë të huaja.

Në vitin 2019, Meta kërkoi që Sama – e cila në Najrobi kishte punuar për disa vjet në etiketimin e të dhënave për të trajnuar softuerët e inteligjencës artificiale për klientët – përfshirë Meta-n dhe Tesla-n – të merrte përsipër punën e moderimit të përmbajtjes. Do të duhej të ishte pjesë e një qendre të re afrikane, për t’u fokusuar në filtrimin e përmbajtjes së gjuhës afrikane.

Nga Sama thanë se nuk e kishin bërë kurrë më parë këtë punë. Por, ekipi në terren e mbështeti marrjen e detyrës – që përndryshe mund të kishte shkuar në Filipine – nga ndjesia se kanë përgjegjësi për të ofruar ekspertizë kulturore dhe gjuhësore në moderimin e përmbajtjes afrikane. Nisi të punësojë njerëz nga vendet e tjera, përfshirë këtu Burundin, Etiopinë, Kenian, Somalinë, Afrikën e Jugut dhe Ugandën, për të shkuar dhe për të punuar ata në objektet në Najrobi.

Doli të jetë gabim. Brenda katër vjetëve nga fillimi i moderimit të përmbajtjes, Sama vendosi të largohej nga biznesi, duke i dhënë fund kontratës me Facebook-un dhe duke pushuar disa nga menaxherët që kishin mbikëqyrur punën e re.

Brownie, i cili ishte rekrutuar në vitin 2019 në Afrikën e Jugut – për të punuar në qendrën e Najrobit – ishte ndër ata që u njoftuan këtë janar, kur Sama u tha punonjësve se nuk do të moderojë më përmbajtjen e Facebook-ut.

“Është punë e rëndësishme, por mendoj se po bëhet sfiduese”, thotë për Financial Times [FT], Wendy Gonzalez, shefe ekzekutive e Sama-s, duke shtuar se moderimi i përmbajtjes ndonjëherë ka paraqitur vetëm dy përqindëshin e biznesit të Sama-s. “Zgjodhëm të dilnim krejtësisht nga ky biznes”.

Shumë nga moderatorët që punojnë në Kenia thanë se puna i lë psikikisht të lënduar, të rrënuar nga kujtimet dhe të paaftë për të mbajtur marrëdhënie normale shoqërore.

“Në momentin që e ke parë, nuk mund të mos e shohësh më. Shumë prej nesh tani nuk mund të flemë”, thotë Kauna Ibrahim Malgwi, nigeriane e diplomuar për psikologji që filloi në qendrën e Sama-s në Najrobi në vitin 2019 dhe që e moderoi përmbajtjen në gjuhën hausa që flitet në gjithë Afrikën perëndimore. Tashti varet nga ilaçet kundër depresionit, thotë ajo.

Cori Crider, drejtoreshë në Foxglove – një firmë jofitimprurëse ligjore me bazë në Londër që po mbështet ish-moderatorët e Sama-s në rastin që kanë – thotë se moderatorët marrin mbrojtje krejtësisht të pamjaftueshme për stresin mendor.

“Policët që hetojnë rastet e imazheve të abuzimit të fëmijëve, kanë një grup të psikiatërve dhe kufizime të rrepta se sa materiale mund të shohin”, thotë ajo. Por, këshilltarët e punësuar nga Sama, në emër të Meta-s, “nuk janë të kualifikuar për të diagnostikuar ose trajtuar çrregullimin e stresit post-traumatik”, pretendon ajo. “Këta trajnerë ju thonë të marrin frymë thellë dhe të vizatoni me gishta. Nuk janë profesionistë”.

Sama thotë se të gjithë këshilltarët që kishte punësuar, kishin kualifikime profesionale nga Kenia.

Meta pohon se gjykatat e Kenias nuk kanë juridiksion ndaj çështjes për shkarkimet e padrejta. Por, më 20 prill, me atë që moderatorët dhe avokatët e cilësuan si fitore të madhe, një gjykatës kenian vendosi që Meta me të vërtetë mund të paditet në vend. Meta është duke u ankuar.

“Nëse Shell-i do të vinte dhe do t’i hidhte gjërat në brigjet e Kenias, do të ishte shumë e qartë nëse Kenia ka juridiksion ose jo”, thotë Mercy Mutemi, avokate keniane në [firmën] Nzili and Sumbi Advocates, që përfaqëson moderatorët. “Nuk është gjë fizike, e prekshme. Është teknologji. Por, argumenti është i njëjtë. Kanë ardhur këtu për të bërë dëme”.

Rasti i 184 moderatorëve është një nga tri paditë e ngritura në emër të moderatorëve të përmbajtjes nga firma ligjore e Mutemit, me mbështetje nga Foxglove.

E para u depozitua vitin e kaluar në emër të Daniel Motaungut -moderator nga Afrika e Jugut që punon në Najrobi – kundër Sama-s dhe Meta-s. Edhe në atë rast, një gjyqtar i veçantë kenian hodhi poshtë pretendimin e Meta-s se gjykatat keniane nuk kishin juridiksion.

Motaung pretendon se u shkarkua gabimisht pasi u përpoq të krijonte një sindikatë për të kërkuar paga dhe kushte më të mira pune. Ai gjithashtu pretendon se është joshur në këtë punë nën pretendimet e rreme, duke mos ditur saktësisht se çfarë përfshinte.

Sama i kundërshton këto pretendime, duke thënë se moderatorët e përmbajtjes ishin njohur me punën gjatë procesit të punësimit dhe të trajnimit dhe se Motaungu u shkarkua meqë e kishte shkelur kodin e sjelljes së kompanisë. “Sa i përket krijimit të sindikatës, ne kemi politika për lirinë e shoqërimit”, thotë Gonzalez. “Nëse do të formohej sindikata, nuk do të paraqiste problem.”

Moderatorët e përmbajtjes të rekrutuar jashtë Kenias paguheshin me rreth 60 mijë shilingë kenianë në muaj, përfshirë një kompensim për emigrantët – ekuivalent ky i rreth 564 dollarëve, sipas kursit të këmbimit të vitit 2020.

Moderatorët zakonisht punonin me një orar prej nëntë orëve, me një orë pushim, dy javë gjatë ditës dhe dy javë gjatë natës. Pas taksave, morën një pagë prej rreth 2.2 dollarëve në orë.

Sama thotë se ato paga ishin disa herë më të larta se paga minimale dhe se ishin ekuivalent me pagën që marrin mjekët e ndihmës mjekësore keniane ose nga mësuesit e nivelit të diplomuar. “Këto janë paga të mira”, thotë Gonzalez.

Të dhënat bëjnë me dije se pagat për punëtorët emigrantë janë pak më shumë se katërfishi i pagës minimale të Kenias, por Crider nga Foxglove thotë se kjo nuk i lë përshtypje: “2.2 dollarë në orë për të përballuar pamjet e përsëritura të vrasjeve, të torturave dhe të abuzimit të fëmijëve? Është shumë pak”.

Haugen, sinjalizuese e Facebook-ut, tha se lufta e Motaungut për të drejtat e punëtorëve ishte ekuivalenti i epokës digjitale ndaj betejave të mëparshme. “Njerëzit që luftojnë për njëri-tjetrin, kjo është arsyeja se pse e kemi javën e punës prej 40 orëve”, ka thënë ajo duke folur – në një ngjarje në Londër, gjatë vitit të kaluar – së bashku me Motaungun. “Duhet ta shtrijmë atë solidaritet në frontin e ri, në gjërat e tilla si fabrikat e moderimit të përmbajtjes”.

Këtë muaj, moderatorët në Najrobi votuan për të formuar atë që avokatët e tyre thanë se është bashkimi i parë i moderatorëve të përmbajtjes në botë. Motaung ngjarjen e quajti si “moment historik”.

I fundit nga tri rastet që po dëgjohen në Kenia nuk ka të bëjë me ligjin e punës, por me pasojat e supozuara të materialit të postuar në Facebook. Pretendon se dështimi i Facebook-ut për t’u marrë me gjuhën e urrejtjes dhe nxitjen e dhunës, nxiti dhunën etnike në luftën dyvjeçare civile të Etiopisë, që përfundoi në nëntor.

Crider thotë se të tri rastet janë të ndërlidhura, sepse trajtimi i dobët i moderatorëve të përmbajtjes rezulton drejtpërdrejt në përhapjen e përmbajtjes së pasigurt e të pakontrolluar nga platformat e Meta-s.

Një nga dy paditësit, studiuesi Abrham Meareg, pretendon se babai i tij, një profesor kimie, u vra në rajonin Amhara të Etiopisë në tetor të vitit 2021, pasi një postim në Facebook zbuloi adresën e tij dhe bëri thirrje për vrasjen. Abrham thotë se disa herë i kërkoi Facebook-ut që ta hiqte përmbajtjen, por pa sukses.

Sama punësoi rreth 25 njerëz për të moderuar përmbajtje nga Etiopia, në tri gjuhë – amharike, tigrinja dhe oromo – në kohën e një konflikti që nxiti armiqësitë etnike dhe që mund të ketë marrë deri në 600 mijë jetë.

Avokatët në Kenia kërkojnë krijimin e një fondi prej 1.6 miliard dollarëve për viktimat dhe kushtet më të mira për moderatorët e ardhshëm të përmbajtjes. Më e rëndësishmja, po kërkojnë gjithashtu ndryshime në algoritmin e Facebook-ut për ta parandaluar këtë dukuri diku tjetër në të ardhmen.

Avokatët thonë se për të konkurruar me platformat e tjera, Facebook-u për fitim të vetin e maksimizon qëllimisht angazhimin e përdoruesve, gjë që mund të ndihmojë që përmbajtjet e pasigurta ose të rrezikshme të bëhen virale.

“Abrhami nuk është person i veçuar apo i vetëm”, thotë Rosa Curling, drejtoreshë në Foxglove. “Ka shembuj të pafund të gjërave që publikohen në Facebook, me thirrjet që njerëzit të vriten. Dhe, pastaj kjo në fakt po ndodh”.

Curling thotë se cilësia e moderimit të Facebook, në qendrën e Najrobit, ndikohet nga praktikat e punës që tani po sfidohen në gjykatë.

Gonzalez – nga Sama – pranon se rregullimi i moderimit të përmbajtjes është i mangët, duke thënë se çështja duhet të jetë “kryesorja” për shefat e kompanive të mediave sociale. “Këto platforma, dhe jo vetëm kjo [Facebook] në veçanti, por edhe të tjerat, janë disi në natyrë të egër”, thotë ajo. “Duhet të vendosen kontrollet dhe mbrojtja”.

Teksa Meta kontrakton dhjetëra mijëra moderatorë njerëzorë, ajo tashmë po investon shumë në zëvendësimin e tyre: softuer të inteligjencës artificiale që mund të filtrojë dezinformatat, gjuhën e urrejtjes dhe format e tjera të përmbajtjes toksike në platformat e veta. Në tremujorin e fundit tha se 98 përqindëshi i “përmbajtjes së dhunshme dhe grafike” që u hoq, u zbulua duke përdorur AI-në [inteligjencën artificiale].

Megjithatë, kritikët theksojnë se sasia dërrmuese e përmbajtjes së dëmshme, që mbetet në internet në vendet si Etiopia, është dëshmi se softueri i AI-së nuk mund të kap ende nuancat e nevojshme për të moderuar imazhet dhe fjalimin njerëzor.

Përveç krijimit të mundshëm të precedentit ligjor, rastet në Kenia ofrojnë vështrim të rrallë për jetën e punës së moderatorëve të përmbajtjes, të cilët zakonisht torturohen në anonimitet.

Marrëveshjet e moszbulimit që ata duhet të nënshkruajnë, zakonisht me urdhër të kontraktorëve si Sama, i ndalojnë të ndajnë detaje të punës edhe me familjet e veta. Gonzalez thotë se kjo është për të mbrojtur të dhënat e ndjeshme të klientit.

Frank Mugisha, ish-punonjës i Sama-s nga Uganda, ka shpjegim tjetër. “Kurrë nuk kam pasur rastin ta ndaj historinë time me dikën, sepse gjithmonë e ruaja një sekret të ndyrë”, thotë ai.

Pas humbjes së vendeve të punës, punonjësit e Sama-s jashtë Kenias që tani po përballen me mundësinë e dëbimit nga vendi, megjithëse një gjykatë ka lëshuar një urdhër të përkohshëm që ndalon Meta-n dhe Sama-n të ndërpresin kontratat e moderatorëve derisa të merret një gjykim mbi ligjshmërinë për tepricë të punëtorëve.

Megjithatë, disa ish-punonjës të Sama-s nuk janë paguar që prej muajit prill, kur kompania e ndërpreu kontratën me Meta-n, ndërsa po përballen me dëbimin për mos pagesë të qirasë.

Të gjithë moderatorët e përmbajtjes që folën me FT-në kanë nënshkruar marrëveshje për mos zbulim. Por, avokatët thanë se kjo nuk pengon që të flasin për kushtet e punës.

Moderatorët nga një sërë vendesh anembanë Afrikës, ishin të qëndrueshëm në kritikat e veta. Të gjithë thanë se e kishin marrë përsipër punën pa qenë të informuar – siç duhet – për atë që përfshinte. Të gjithë u ankuan për presion të vazhdueshëm nga menaxherët, për të punuar me shpejtësi, me kërkesën për ta trajtuar çdo “ankesë” ose artikull në çdo 50 ose 55 sekonda.

Meta tha se nuk mandaton kuota për rishikuesit e përmbajtjes dhe tha se “nuk u bëhet presion për të marrë vendime të nxituara”, megjithëse tha se “suksesi dhe efektiviteti” janë faktorë të rëndësishëm në punë.

Malgwi, nigeriane e diplomuar për psikologji, është shpërfillëse ndaj asaj që moderatorët pretendojnë se është përpjekja e Facebook-ut për të mbajtur distancën duke përdorur kompani të palëve të treta, si Sama. “Çdo mëngjes ne hyjmë në platformën e Meta-s”, thotë ajo. “E shihni: ‘Mirë se erdhe. Faleminderit që mbroni komunitetin Meta.”

Fasica Gebrekidan, moderatore etiopiane që studioi gazetarinë në Universitetin e Mekelles, e më 2021 gjen një punë në Sama, menjëherë pasi u arratis nga lufta civile e Etiopisë. Kur mësoi se në mënyrë indirekte do të punonte për Meta-n, mendoi se “ndoshta jam vajza më me fat në botë”, tha ajo. “Nuk prisja të shihja për çdo ditë trupat e copëtuar nga sulmet me dron”, shton ajo.

Deri tash, Gebrekidan nuk ka folur me askënd, duke mbrojtur natyrën e punës së saj edhe nga e ëma. “E di se ajo që bëj nuk është një punë normale”, thotë ajo. “Por, e konsideroj veten heroinë për filtrimin e gjithë këtyre gjërave toksike, negative”. /Telegrafi/