Por qué no necesitamos «policías del contenido» en las redes sociales: el problema es más profundo

En abril, Meta eliminó de repente de Instagram una publicación dedicada a las lesbianas mayores de Brasil. La publicación no tenía contenido sexual ni incluía nada que pudiera perjudicar a los menores. Contaba cómo, en otros tiempos, las parejas de lesbianas se veían obligadas a fingir que eran solo vecinas o «amigas» para evitar la condena social. Pese a su valor histórico y divulgativo, Meta retiró la publicación alegando sus normas contra el «discurso de odio». Más tarde, un comité independiente de supervisión reconoció que la decisión había sido errónea: los sistemas automatizados de la red social no habían sabido captar el contexto ni el sentido de la publicación. Solo se restauró tras la presión externa y el apoyo de la comunidad LGBTQ+.

El caso de Brasil se convirtió para Meta en otro «error de moderación» y pronto quedó olvidado, pero debería ser una llamada de atención para los políticos: cuando las leyes obligan a las redes sociales a filtrar el contenido con mano dura, las personas reales salen perjudicadas, sobre todo aquellas a quienes se les prohíbe mostrarse en público o para quienes hacerlo es peligroso. Gobiernos de todo el mundo están aprobando a toda prisa leyes para «proteger a los menores en internet»: unas proponen prohibir las redes sociales a los menores de 16 años; otras exigen eliminar el contenido «perjudicial» a toda velocidad. Pero hay un ejemplo revelador: en Australia, tras prohibir el acceso a las redes sociales a los menores de 16 años, los jóvenes autistas se quedaron sin el único lugar donde podían comunicarse y encontrar apoyo.

Los sistemas automatizados de moderación y recomendación no entienden qué significa ser vulnerable ni por qué alguien necesita encontrar a personas parecidas a sí mismo. Para los adolescentes LGBTQ+, especialmente en entornos cerrados, las plataformas en línea suelen ser la única ventana a un mundo donde pueden informarse, encontrar apoyo o simplemente entender que no están solos. Pero son precisamente esos menores quienes se enfrentan con más frecuencia al acoso, las insinuaciones y el chantaje, porque los algoritmos no distinguen entre apoyo y amenaza: lo único que les importa es mantener al usuario cada vez más enganchado.

Lo mismo ocurre con el desplazamiento interminable por el contenido: a los adolescentes casi les resulta imposible salir de ahí. Las recomendaciones de las redes sociales a menudo los empujan hacia contenido para adultos, desconocidos y comunidades extremistas, mientras que las medidas de moderación prohibicionistas recortan también las únicas formas saludables de encontrar amistades y apoyo.

El verdadero peligro para los menores no está en una publicación aislada que se haya colado por error, sino en sistemas que arrastran a un menor ajeno a una corriente de consejos aleatorios, a menudo perjudiciales, y de contactos peligrosos, sin salida al exterior. De ahí la conclusión: si las leyes regulan la propia arquitectura de las redes sociales, en vez de los textos de los usuarios —por ejemplo, limitando la vigilancia, los patrones que fomentan la participación y la distribución forzosa de contenido—, el daño será menor.

Los códigos de diseño ético de interfaces no exigen censurar la memoria y la experiencia, sino poner límites a la manipulación y a los mecanismos automáticos que enganchan a los usuarios. Es el enfoque que defienden tanto padres como activistas. Cuanto menos vigilen las redes sociales si las palabras son «correctas» y más se ocupen de sus mecanismos tóxicos, más seguro será internet para los menores vulnerables.

Lo esencial es que los legisladores no confundan la censura con la protección. Porque, mientras debatimos sobre el contenido «peligroso», los menores siguen deslizándose por la pendiente algorítmica infinita y directo a los brazos de quienes seguro que no los estaban esperando allí.