SARAJEVO - O crimă sadică a fost transmisă în direct pe rețelele sociale din Balcani. Mii de spectatori au privit îngroziți o postare video live în care un bărbat bosniac o ucidea pe fosta lui soție. În timp ce era căutat de poliție, el a spus că a ucis alte două persoane, apoi s-a sinucis.
Episodul a șocat o societate deja zguduită de conflicte și traume, care cere acum cu disperare o mai bună protejare a femeilor precum Nizama Hecimovic, tânăra mamă ucisă în orașul nord-estic Gradacac. Ea reclamase anterior abuzuri din partea bărbatului, cu care avea o fiică.
Dar, de asemenea, evenimentul a reaprins frustrări în Bosnia și Herțegovina și în alte părți ale lumii legate de eșecul rețelelor sociale, precum Instagram, de a preveni apariția unor asemenea conținuturi live sau măcar de a le elimina rapid.
Experții avertizează că algoritmii precum cei ai rețelei Instagram sunt cunoscuți pentru ineficiența lor în detectarea unor astfel de clipuri. Ei spun că episodul de la Gradacac arată încă o dată eșecul grav al Meta, dar și al altor rețele sociale, de a modera conținutul și videoclipurile care folosesc alte limbi decât engleza.
Maida Muminovic, director executiv al Mediacenter Sarajevo, care face parte dintr-o alianță susținută de UE și UNESCO pentru limitarea conținutului online dăunător, a spus că reacția Meta ar fi trebuit să fie mai rapidă.
„Circulația unui astfel de videoclip ore întregi pe Instagram a arătat slăbiciunea mecanismelor de raportare și eliminare a conținutului dăunător de pe rețelele sociale precum și iresponsabilitatea Meta”, a spus Muminovic.
Coaliția pentru libertatea de exprimare și moderarea conținutului din Bosnia și Herțegovina, lansată oficial în iunie, a anunțat că va solicita detalii despre caz de la compania Meta (Facebook) pentru a face o analiză detaliată a ceea ce nu a mers bine.
„Nu am cuvinte să descriu ce s-a întâmplat la Gradacac”, a declarat Nermin Niksic, prim-ministrul Federației Bosniaco-Croate, una dintre cele două entități care alcătuiesc Bosnia.
Cu exact o lună înainte, Niksic posta o fotografie de la genocidul din 1995, din timpul războiului bosniac, și asigura țara că tragedia „nu va fi uitată niciodată și nu se va repeta niciodată împotriva nimănui”.
Algoritmii sunt celebri pentru ineficiență
Videoclipul culturistului Nermin Sulejmanovic, în vârstă de 35 de ani, anunțându-și intențiile și apoi împușcându-și soția de la mică distanță a început la 10:20, în diminieața zilei de 11 august.
Pe măsură ce înfiorătorul flux live a intrat în cea de-a treia oră de prezență pe Instagram, numărul de vizualizări a crescut. La fel și numărul numărul morților.
Clipul a fost eliminat abia în jurul orei 2:30, timp în care Sulejmanovic ucisese deja un tată și un fiu și rănise alte trei persoane, în timp ce era căutat de poliție.
Aproape 12.000 de oameni au urmărit crima în direct, iar audiența a ajuns la un moment dat la 15.000 de oameni. Profilul de Instagram al acestuia a fost eliminat între timp de pe rețeaua socială, nu înainte să câștige aproximativ 300 de noi urmăritori.
Sasa Petrovic, inspector de criminalitate informatică în cadrul Poliției Federale, a declarat pentru Serviciul Balcanic al RFE/RL că a contactat Meta după ce a fost alertat de procurori în jurul orei 12:20.
„Am primit aprobarea poliției din Tuzla... și am contactat Meta”, a spus Petrovic. „În aproximativ 20 de minute, videoclipul a fost eliminat, la fel și contul.”
Petrovic precizează că el și agențiile de poliție bosniace au datele de contact de la Meta și de la alte rețele sociale care permit blocarea datelor și suspendarea utilizatorilor.
El adaugă însă că nu știe să existe o asemenea legătură cu, să zicem, TikTok, unde se estimează că zeci de conturi distribuie videoclipuri violente explicite.
Când a fost contactată de RFE/RL în ziua crimelor, Meta nu a precizat cât timp a trecut între momentul reclamației și eliminarea videoclipului.
Dar, într-o declarație obținută ulterior de Serviciul Balcanic al RFE/RL, compania a transmis că este „profund întristată” de atacul „oribil” de la Gradacac și că este „în contact cu autoritățile bosniace pentru a ajuta la susținerea investigațiilor lor.”
Rugată de RFE/RL să-și clarifice politicile și practicile, compania a declarat printr-un purtător de cuvânt că „atunci când vine vorba de conținut live, folosim clasificatori [inteligență artificială] pentru a identifica în mod proactiv conținutul potențial interzis în Live - așa cum facem în alte părți pe Facebook și Instagram - și răspundem la raportările comunității noastre.”
Meta a mai transmis că „a făcut mai multe actualizări pentru a ajuta la limitarea utilizării serviciilor noastre în acest fel” după crimele celebre transmise în direct în Christchurch, Noua Zeelandă, în 2019.
Caitlin Chin, membru al Centrului pentru Studii Strategice și Internaționale (CSIS) din Washington, D.C., care cercetează reglementarea tehnologiei, a declarat că transmisiunea de la Gradacac arată marile dezavantaje ale soluțiilor algoritmice.
„Algoritmii social media sunt celebri pentru ineficiență, în special pentru imagini sau conținut altul decât text”, a declarat ea pentru Serviciul Balcanic al RFE/RL.
Caitlin Chin a adăugat că există un proces complicat de conversie de la fotografie sau video la text, care este apoi scanat pentru indicii și a concluzionat că „softwareul în sine nu este adecvat”.
Ea menționează și reducerile recente de personal ale Meta, dar și politica internă de moderare a conținutului, despre care a sugerat că este „neclară”.
„Din păcate, una dintre cele mai mari lecții [din videoclipurile și imaginile grafice partajate] este cât de grea e și cât de importantă e moderarea conținutului online”, a spus Chin.
Iar șansele unei greșeli sunt probabil mai mari pentru oamenii din țări precum Bosnia.
Proceduri „complet opace”
Meta dedică o mare parte din efort moderării conținutului în limba engleză, spune Caitlin Chin, dar „această tragedie teribilă dezvăluie cât de problematic este să neglijezi bosniaca și alte limbi non-engleze”.
James Waldo, profesor de informatică la Universitatea Harvard, afirmă și el că moderarea conținutului „nu este un lucru simplu”, în special la o scară precum cea a Meta.
El crede că Meta „încă nu s-a adaptat la faptul că este o companie mondială... și trebuie să aibă reprezentanți în tot felul de locuri pe care ei le consideră de nișă, dar aceștia sunt vitale pentru acele zone”.
„Nu știu care este nivelul lor de personal în Bosnia sau România sau în oricare dintre țările est-europene”, spune Waldo.
„Știu că sunt insuficienți angajați în Asia de Sud, în anumite locuri... Cu toate acestea, sunt prezenți în toate aceste locuri în care există mai multe limbi și culturi diferite pe care trebuie să le gestioneze”, completează expertul.
Cu toate acestea, el a numit procesul intern de eliminarea a conținutului periculos de la Facebook/Meta „complet opac”, ceea ce înseamnă că e greu să ai încredere că Facebook face ceea ce trebuie să facă.
El mai spune că multiplele jurisdicții complică situațiile, cum ar fi cea a unui video văzut în Statele Unite de pe un server din Franța, dar care a fost inițial publicat în Bosnia.
Milos Jovanovic, de la OpenLink Group din Belgrad, o agenție IT care oferă servicii de dezvoltare și educație, spune că înțelege și dilema Meta.
El afirmă că evenimentele în timp real, cum ar fi fluxul live de la Gradacac, sunt deosebit de greu de controlat și probabil că va dura ani de zile pentru a superviza cum trebuie ceea ce se întâmplă după ce o persoană pornește o transmisie video live.
„Sunt convins că nu a fost posibil să reacționeze și să elimine acel conținut într-o perioadă scurtă de timp”, afirmă Jovanovic.
Claudio Agosti, fondatorul platformei și software-ului Tracking Exposed pentru analiza algoritmilor rețelelor sociale, spune că procesul de moderare cere foarte multe resurse iar „optimizările înseamnă că anumite conținuturi sunt scanate superficial sau mai târziu”.
Dunele de nisip, exemplifică el, sunt frecvent confundate cu corpurile goale, iar prepararea alimentelor poate apărea ca acte de violență dacă un algoritm de detectare este „inexact”.
„Conținutul care va fi încărcat mâine este prin definiție nou, iar inteligența artificială este antrenată pe ceea ce s-a întâmplat în trecut”, explică Claudio Agosti. El adaugă însă că, spre deosebire de dezinformare și discurs de ură, violența sau comportamentul explicit „ar trebui să nu depindă de limbă”.
Darko Obradovic, de la Centrul pentru Analiză Strategică din Belgrad, sugerează că, după războaiele brutale din anii 1990, mulți oameni din regiune au o toleranță foarte ridicată față de violență.
El afirmă că algoritmii care vizează respectarea termenilor de utilizare ai companiei de social media nu pot exclude dimensiunea umană.
„Am devenit cu toții amorțiți și am pierdut valorile de bază ale unei culturi a securității. Este mai important pentru toată lumea să distribuie videoclipul, să vizioneze videoclipul, în loc să sune la poliție, de exemplu”, remarcă Obradovic.
„Și când aceste două dimensiuni se intersectează, atunci obținem ceva numit executarea unui plan criminal la care nimeni nu a reacționat”.
Spectatorii crimei înfiorătoare ar putea fi, de asemenea, în atenția autorităților bosniace.
Guvernul federal a declarat că ministrul de interne va cere poliției federale și Ministerului de Interne al cantonului Tuzla, unde se află Gradacac, să caute orice utilizator de pe rețeaua socială care a încurajat ucigașul sau ar fi glorificat crima.
Pe 14 august, mii de bosniaci au demonstrat în mai multe orașe, inclusiv în capitala Sarajevo, pentru a cere protejarea mai eficientă a femeilor precum Nizama Hecimovic.
Cu doar câteva zile înainte de a fi ucisă, ea ceruse protecția poliției față de fostul ei soț.
Misiunea locală a ONU a cerut autorităților să se angajeze că vor opri femicidul și a transmis că este „îngrozită de faptul că uciderea unei victime de sex feminin a fost transmisă în direct printr-o rețea socială”.
