La Comisión Europea ha enviado una solicitud de información sobre el diseño y funcionamiento de sistemas de recomendación a YouTube, Snapchat y TikTok. Los sistemas de recomendación son algoritmos de aprendizaje automático que utilizan datos para sugerir elementos que podrían interesarle a un usuario.
Sin embargo, según la Ley de Servicios Digitales (DSA), la regulación clave de moderación de contenidos de la UE, la Comisión ha argumentado que estos están “en el centro” de los riesgos sistémicos que las plataformas presentan a los usuarios.
En un comunicado publicado el miércoles (2 de septiembre), la Comisión de la Unión Europea dicho: “Según la DSA, las plataformas deben evaluar y mitigar adecuadamente los riesgos que surgen de sus sistemas de recomendación, incluidos los riesgos para la salud mental de los usuarios y la difusión de contenido dañino que surge del diseño de estos algoritmos”.
Solicitamos a YouTube, Snapchat y TikTok información sobre el diseño de sus sistemas de recomendación según la Ley de Servicios Digitales.
YouTube y Snapchat necesitan detallar los parámetros de sus algoritmos y la mitigación de riesgos.
TikTok debería tomar medidas contra la manipulación y… pic.twitter.com/usQkKHfPH4
– Comisión Europea (@EU_Commission) 2 de octubre de 2024
Las solicitudes “también se refieren a las medidas de las plataformas para reducir el impacto potencial de sus sistemas de recomendación en la difusión de contenidos ilegales, como la promoción de drogas ilegales y el discurso de odio”.
La comisión dijo que pidió a TikTok que proporcione más información sobre las medidas de la compañía para prevenir malas prácticas en la plataforma y reducir los riesgos relacionados con las elecciones y los debates civiles.
YouTube y Snapchat deben abordar cuestiones relacionadas con los parámetros de sus algoritmos de recomendación y su papel potencial en el aumento de los riesgos sistémicos, incluidos los relacionados con la protección de menores.
Las tres empresas de redes sociales tienen hasta el 15 de noviembre para proporcionar la información. La UE dijo que sus respuestas servirían de base para tomar medidas adicionales, incluida la posible apertura de una investigación formal y posibles multas.
La UE abre un caso formal contra Meta
La UE ya ha iniciado casos de incumplimiento en el marco de la DSA, que obliga a las empresas de tecnología a tomar medidas más estrictas contra el contenido ilegal y dañino en sus plataformas. La prueba está relacionada con las recomendaciones proporcionadas por Meta Facebook e Instagram, AliExpress y TikTok.
La comisión no se refiere a la empresa matriz de Meta, Facebook e Instagram, ya que se plantearon las mismas cuestiones en el procedimiento formal contra la empresa en mayo.
ReadWrite informó que la agencia dijo que le preocupaba que los sistemas de Facebook e Instagram, incluidos sus algoritmos, pudieran fomentar comportamientos adictivos en los niños, así como crear los llamados “efectos de madriguera de conejo”.
Imagen de portada: A mitad del viaje
El mensaje de la UE a YouTube, Snapchat y TikTok sobre los sistemas de recomendación de IA apareció por primera vez en ReadWrite.
