Algunas de las mayores empresas de redes sociales están colaborando en un programa para prevenir la propagación del suicidio o del contenido suicida en línea.
Meta, Snapchat y TikTok se han asociado con Mental Health Coalition en la nueva aplicación Thrive, que se anunció el jueves (12 de septiembre).
El plan implica que las empresas de tecnología participantes compartan señales sobre contenido suicida o autodestructivo para que otras empresas puedan investigar y tomar medidas si el mismo contenido se comparte en su plataforma.
“En MHC estamos entusiasmados de trabajar con Thrive; a una colaboración única de las plataformas de redes sociales más influyentes que se han unido para eliminar el contenido de autolesión y suicidio.
“Meta, Snap y TikTok son algunos de los socios iniciales que se unieron a ‘share’, comprometidos a lograr un impacto aún mayor y ayudar a salvar vidas”, dijo Kenneth Cole, fundador de Mental Health Coalition.
Si el contenido genera inquietudes, se notificará a las empresas involucradas y luego evaluarán de forma independiente si deben tomar medidas.
El Dr. Dan Reidenberg, director ejecutivo de Thrive, describió el proyecto como un “gran avance”:
“La integración del intercambio de señales, combinada con la colaboración interdisciplinaria y la moderación de un mediador independiente y neutral, representa un avance importante en la colaboración de la industria y la protección pública en una crisis global, un suicidio de salud pública y, en última instancia, salvar vidas”.
Estamos orgullosos de ser miembros fundadores de Thrive, un nuevo programa que permite a las empresas de tecnología compartir señales sobre contenido infractor o autodestructivo y evitar que se propague en múltiples plataformas.
– Sala de prensa Meta (@MetaNewsroom) 12 de septiembre de 2024
¿Cómo funciona la tecnología de intercambio de señales para abordar el contenido autodestructivo?
La infraestructura técnica detrás de Thrive es proporcionada por Meta y es la misma tecnología que brindan al programa Lantern Tech Coalition, que también permite compartir señales.
“Las empresas participantes comenzarán a compartir hashes (códigos numéricos que corresponden a contenido ofensivo), imágenes y vídeos que representan suicidio y suicidio gráfico, así como contenido de imágenes o suicidio viral o promoción de autolesiones”, escribe Meta en el anuncio.
“Estamos dando prioridad a este contenido porque tiende a difundirse rápidamente en múltiples plataformas. Estas señales iniciales representan únicamente contenido y no contienen información identificable sobre ninguna cuenta o individuo”.
La publicación Meta, Snapchat y TikTok están trabajando juntos para evitar que aparezca contenido relacionado con el suicidio en ReadWrite.
