Există multe critici la adresa social media. Iar companiile încearcă, cu diferite grade de succes, să răspundă așteptărilor în mod rezonabil. Există unele probleme care reprezintă o provocare serioasă pentru companii, iar acum una dintre aceste probleme, sinuciderea și automutilarea, a dus la formarea unei coaliții.
Este foarte dificil pentru companiile de tehnologie să reglementeze conținutul încărcat pe platformele lor, dar există unele lucruri împotriva cărora se pot apăra cu succes. De exemplu, nuditatea este în prezent foarte bine guvernată de majoritatea serviciilor, însă videoclipurile cu mesaje de automutilare sunt un gen diferit și mult mai greu de detectat.
Meta, TikTok și Snap lansează un program comun pentru a le face mai eficiente în filtrarea conținutului legat de temele autodistructive.
Inițiativa se numește Thrive, iar Meta speră că în timp, și alții i se vor alătura. Aceasta este o problemă veche de zeci de ani, care ar fi trebuit să fie rezolvată de alte platforme sociale mult mai devreme. Pentru persoanele cu boli mintale, social media poate provoca daune foarte grave, fiind un aspect cercetat și dovedit. Deoarece calea către sinucidere și violență fizică împotriva lor înșiși sunt probleme foarte grave de sănătate mintală, se poate argumenta că aceste tendințe pot fi exacerbate de Facebook, TikTok și alte medii similare.
În anunțul său recent, Meta a declarat că lucrează de ceva timp pentru a identifica conținutul respectiv, și încearcă să abordeze aceste incidente. De exemplu, compania a înființat anterior o echipă în cadrul propriei sale departament de securitate, pentru a viza astfel de pacienți cu probleme de sănătate mintală, dacă recunosc semnele. Din păcate sistemul nu funcționează eficient. Acesta este motivul pentru care programul Thrive lucrează deja în parteneriat cu alții, pentru a face spațiul cibernetic un loc mai sigur.
"Ca multe alte tipuri de conținut cu potențial problematic, conținutul privind sinuciderea și automutilarea nu este limitat la o singură platformă. Pentru a răspunde eficient la astfel de materiale, companiile de tehnologie trebuie să colaboreze"
Lansarea noului program a fost sprijinită de Coaliția pentru sănătate mintală, care funcționează parțial sub egida Organizației Mondiale a Sănătății. În cadrul Thrive, companiile vor putea să împărtășească informații între ele, astfel încât dacă detectează semne de potențiale tendințe autodistructive la un utilizator pe Facebook, Snap va acorda o atenție mai ridicată activității acestuia. Acest lucru le va permite să ajute mai rapid și mai eficient persoanele cu probleme de sănătate mintală. De asemenea, pot opri mai rapid răspândirea conținutului dăunător.
Meta a declarat că tehnologia din spatele Thrive va oferi securitate maximă pentru toate părțile implicate. Este o soluție care funcționează de ceva timp, și va garanta protecția datelor personale. Programul Lantern pentru semnalarea abuzurilor asupra copiilor, se bazează pe aceasta.
Meta a anunțat recent că numai în perioada Aprilie-Iunie, au fost raportate pe Facebook și Instagram, mai mult de 12 milioane de cazuri de conținut negativ similar.
