«Ser es defenderse», Ramiro de Maeztu
La Gaceta de la Iberosfera
Buscar
Cerrar este cuadro de búsqueda.
Nueva York está a punto de aprobar una legislación para restringir los algoritmos en menores

Una investigación revela que Instagram recomienda contenido sexual a cuentas para niños de 13 años

Interfaz de la aplicación de Instagram UNSPLASH (Foto de ARCHIVO) 04/3/2024

Una investigación reciente realizada por The Wall Street Journal (WSJ) ha desvelado inquietantes revelaciones sobre la red social Instagram. El informe, publicado el pasado jueves, destaca que la plataforma ha estado sugiriendo videos de contenido sexual explícito a usuarios de apenas 13 años, desafiando sus propias normas de seguridad para menores.

La investigación, que se extendió durante siete meses y contó con la colaboración de una investigadora académica, evidenció que el algoritmo de Instagram recomienda videos sexuales a cuentas de adolescentes pocos minutos después de registrarse en la app por primera vez. Los datos indican que en tan solo tres minutos de actividad en la plataforma, los usuarios de 13 años ya recibían sugerencias de contenido para adultos.

El estudio mostró que, tras menos de 20 minutos viendo reels, las cuentas de prueba se inundaban con promociones de perfiles dedicados a contenido sexualizado. Algunas de estas cuentas incluso ofrecían enviar fotos de desnudos a los usuarios que interactuaban con sus publicaciones.

A diferencia de Instagram, pruebas similares realizadas en Snapchat y TikTok no produjeron los mismos resultados de contenido sexualizado para menores, sugiriendo una posible deficiencia específica en los algoritmos de Instagram.

Meta, la empresa matriz de Instagram, ha rechazado los hallazgos del WSJ. Andy Stone, portavoz de la compañía, calificó los experimentos de «artificiales» y afirmó que no reflejan el uso real de la plataforma por parte de los adolescentes. Sin embargo, documentos internos de Meta revisados por el WSJ indican problemas similares, revelando que Instagram muestra más pornografía, contenido violento y discursos de odio a los usuarios jóvenes que a los adultos.

Un análisis interno de Meta sugirió que la solución más efectiva para evitar la exposición de contenido inapropiado a menores sería crear un sistema de recomendación completamente separado para adolescentes. A pesar de esta recomendación, Meta no implementó dicha propuesta.

En respuesta a estos hallazgos, el estado de Nueva York está a punto de aprobar una legislación pionera que busca restringir los algoritmos absorbentes de las redes sociales para menores de edad, argumentando que el contenido puede ser tan adictivo y perjudicial como el tabaco o las apuestas.

El cirujano general de los Estados Unidos, Vivek Murthy, ha apoyado esta iniciativa, proponiendo la introducción de advertencias sobre la salud mental en las redes sociales, similares a las advertencias en las cajetillas de tabaco y botellas de alcohol.

Según las políticas de Instagram, la plataforma no debería recomendar contenido sexualmente sugerente a usuarios de ninguna edad a menos que estos sigan voluntariamente dichas cuentas. Además, desde enero, Instagram ha prometido que a los adolescentes menores de 16 años no se les mostraría ningún contenido sexual explícito.

.
Fondo newsletter