Probabil că nu este o surpriză pentru nimeni faptul că anumite conținuturi sensibile trec nestingherite prin filtrele platformelor social media. Dar la Meta, un incident nespecificat a dus la apariția a mii de videoclipuri care au provenit din cele mai întunecate colțuri ale internetului.
Videoclipuri care detaliază pornografie grosolană și acte violente au fost postate pe Instagram, aparent fără discernământ, pentru milioane persoane.
Este dificil de estimat câte persoane au fost afectate și expuse la videoclipuri tulburătoare și șocante, cât și câte dintre ele au fost victime tinere. Baza de utilizatori a fost afectată la nivel internațional de incidentul neașteptat.
Instagram are un sistem care ascunde videoclipurile problematice în spatele unui fundal difuz. Astfel, acestea pot fi accesate doar intenționat. Cu toate acestea, autorii necunoscuți au reușit să treacă de această protecție, conținutul fiind afișat fără discriminare. Astfel, chiar și copiii au putut accesa acestea.
Această platformă, și Meta în general, utilizează un algoritm foarte eficient pentru filtrarea, astfel încât nu numai că nu oferă aceste videoclipuri implicit, ci doar cele care ar fi pe placul utilizatorului. Este în interesul companiei să mențină publicul în fața ecranului cât mai mult timp posibil cu materialul dorit. Cu toate acestea, problema actuală a fost atât de gravă încât conținutul dăunător a ocolit verificările și a ajuns la o audiență enorm de mare. Videoclipurile cu animale de companie drăguțe au fost schimbate cu ceva mult mai șocant.
Meta a reușit să rezolve problema, deși rapoartele indică că nu este prima ocazie când se întâmplă ceva similar, deși a afectat o audiență mult mai mică.
Compania și-a cerut scuze pentru cele întâmplate. "Am remediat o deficiență care oferea posibilitatea ca unii utilizatori să vadă conținut nedorit în fluxul Instagram Reels. Ne cerem scuze pentru eroare.", a declarat un purtător de cuvânt al Meta ca răspuns la o solicitare din partea CNBC.
Acest incident ar putea orienta atenția autorităților de reglementare asupra serviciilor de social media, a căror filtrare se pare că nu face față în majoritatea cazurilor.
Un astfel de caz nu poate veni într-un moment mai nepotrivit pentru Meta, acesta este probabil cel mai prost moment posibil. Mark Zuckerberg tocmai a anunțat trecerea la un nou model de moderare, care pare mai iertător, compania fiind criticată destul de mult în acest sens. Probabil că incidentul are legătură cu noul model, și se pare că nu este direcția corectă.
