La moderación de contenidos en las redes sociales
Por Emili Prado, catedrático emérito de la Universitat Autònoma de Barcelona
TRIBUNA ABIERTA
Cómo citar: Prado, E. (2025, 31 de enero). La moderación de contenidos en las redes sociales. En Boletín Mensual de la Asociación Española de Investigación de la Comunicación https://doi.org/10.5281/zenodo.14774736
La foto de los ciberoligarcas en la toma de posesión del 47º presidente de los Estados Unidos dio la oportunidad de visualizar a los gatekeepers de la información mundial en una imagen inédita que recordó hasta qué punto la concentración de poder comunicativo ha alcanzado un nivel estratosférico. Esa constatación gráfica inducía a reflexionar sobre la moderación en las redes sociales, cuestión que había salido a la palestra a raíz los movimientos de algunos de esos personajes que replanteaban la conveniencia de la moderación en las plataformas que controlan. La medida de eliminar la moderación se legitimaba apelando a un bien superior: la libertad de expresión.
La moderación en las redes sociales entronca con una práctica asentada en el campo de los medios de comunicación que consiste en editar y supervisar los contenidos que se difunden con la finalidad de garantizar su veracidad y adecuación a los estándares sociales y legales (Shoemaker & Vos,2009).
La moderación consiste en un conjunto de estrategias para supervisar y filtrar el contenido que circula por las redes sociales (Gillespie, 2018). Inicialmente pretendía prevenir delitos o conductas nocivas como la pornografía infantil, la incitación a la violencia, el acoso, entre otras. (Citron,2014). Al convertirse en foros de expresión política, se incrementó el debate sobre la contradicción entre la necesidad de limitar contenidos perjudiciales como los discursos de odio o la desinformación y la preservación de la libertad de expresión (Benesch, 2014).
Moderación vs libertad de expresión
Simplificando, el debate se focaliza en la tensión entre la libertad de expresión y la necesidad de restringir los discursos dañinos. Los defensores de una posición más permisiva sostienen que las redes son espacios públicos y que cualquier restricción podría considerarse una forma de censura (Kaye,2019).
En el polo opuesto, se argumenta que el derecho a la libertad de expresión no es un valor absoluto y puede condicionarse por la interacción con otros derechos fundamentales que salvaguardan a los ciudadanos de la discriminación o la violencia (Benesch, 2014). Desde esta perspectiva, la moderación evita la propagación de información falsa o tóxica que puede socavar la confianza social (Wardle & Derakhshan, 2017).
Sin entusiasmo, las grandes redes sociales fueron introduciendo mecanismos de moderación, empujadas por tres líneas de fuerza: la necesidad de mantener un entorno seguro y confortable para los miembros de la comunidad, el cumplimiento de las incipientes normativas legales y la protección de su imagen de marca.
Cada plataforma, con sus especificidades, diseña mecanismos de moderación que combinan moderadores humanos con algoritmos de aprendizaje automático para poder gestionar el gran volumen de publicaciones diarias. Cada empresa define sus “Community Guidelines” o “Terms of service” donde se establecen criterios de moderación. Los moderadores humanos revisan los informes de los usuarios, comprueban si un contenido cumple o no con las normas de la comunidad y determinan las sanciones o el bloqueo. Pero el universo a vigilar es de tal magnitud que se delega en sistemas de supervisión automatizados que detecten los posibles contenidos inapropiados. La aplicación de estas reglas suele generar controversias, porque algunos usuarios consideran que hay censura mientras que otros critican la poca con los contenidos tóxicos. En este sentido, la moderación va más allá de la simple prevención de ilegalidades y adquiere una dimensión política y cultural (Douek, 2021).
Los sistemas de aprendizaje automáticos pueden bloquear contenido considerado inapropiado basándose en patrones estadísticos, pero no son infalibles. Su eficacia depende de los datos de entrenamiento, que pueden contener sesgos ideológicos culturales o lingüísticos (Noble,2018). Esto puede conducir al etiquetado de contenidos inofensivos como nocivos o a no detectar la presencia de los realmente perjudiciales.
La opacidad sobre los algoritmos de moderación automatizada y la innegable existencia de sesgos en su configuración suscitan dudas razonables relacionadas con su capacidad de manipulación. En consecuencia, la moderación automatizada va más allá de la eliminación de contenidos ilegales y configura la esfera pública a la hora de dar visibilidad u ocultar determinadas ideas.
Cuando los ciberoligarcas propietarios de las grandes redes se muestran partidarios de la eliminación de la moderación en sus redes sociales apelando a la protección de la libertad de expresión, tratan de esquivar el escaso marco regulatorio de sus actividades. Argumentan que ellos son canales neutrales de distribución de contenidos y que eso les exime de cualquier responsabilidad sobre la calidad, veracidad o toxicidad de los contenidos que distribuyen.
Estos argumentos, que podían ser válidos en los primeros compases de las redes sociales, no resisten el contraste con su actividad actual. Ponen condiciones a la publicación, recopilan ingentes cantidades de datos de los usuarios, aplican algoritmos que determinan la visibilidad de las publicaciones, siguiendo criterios editoriales que privilegian aquellos contenidos que provocan mayor engagement y dirigen los mensajes, de manera quirúrgica, a los usuarios deseados con finalidades publicitarias, propagandísticas o de cualquier otra índole. En pocas palabras, son editores de nuevo cuño.
Los nuevos Gatekeepers
De nuevo cuño, pero editores al fin. Así, el fenómeno debe ser analizado a la luz de algunas de las teorías que nos sirvieron en el pasado para analizar la producción de la información. El concepto de gatekeeping y las teorías del newsmaking (Shoemaker & Vos,2009), aplicados tradicionalmente a la información en prensa, radio y televisión, siguen siendo pertinentes para calibrar la influencia y las responsabilidades de las redes sociales.
Antes, los editores decidían qué acontecimientos se convertían en noticia, influyendo de ese modo en la configuración de la agenda pública. Con la irrupción de Internet, parecía que esta función desaparecía, ya que cualquier persona podía difundir contenido. Sin embargo, el gatekeeping se ha redefinido. Hoy, los algoritmos de las redes sociales juegan el rol de nuevos guardabarreras que filtran, priorizan o silencian determinados contenidos. De este modo se determina qué temas se hacen virales, de manera que la influencia en el establecimiento de la agenda y la configuración del discurso público es muy relevante (Tufekci,2015). La lógica algorítmica premia la visibilidad de las publicaciones que tienen mayor capacidad de generar engagement (likes, comentarios, comparticiones…) y retener conectados a los usuarios durante más tiempo.
Pese a la opacidad de los algoritmos de recomendación, la observación sistemática de las publicaciones que obtienen mayor notoriedad permite constatar patrones que suelen compartir cierto sensacionalismo o capacidad polarizadora. En consecuencia, contribuyen a la formación de “filtros burbuja”, limitan la exposición de los usuarios a información diversa y fomentan la polarización política y social.
Rescatar el principio de responsabilidad editorial
El poder de las redes sociales en la formación de la opinión pública ha despertado el interés de los reguladores. A la hora de establecer normas, un punto clave es si las plataformas han de asumir responsabilidad editorial. En los Estados Unidos, la Sección 230 de la Communications Decency Act les otorga la condición de meros intermediarios, pero la evolución de los acontecimientos ha propiciado la emergencia de voces que, dado el control que ejercen las redes sociales sobre la información, consideran que la regulación debería equipararlas a los medios de comunicación tradicionales (Kosseff,2019).
En la Unión Europea, la Digital Services Act propone más transparencia en el funcionamiento de los algoritmos y en los procesos de moderación (European Commission, 2020). Esa regulación quiere obligar a las plataformas a responder con mayor diligencia ante la presencia de contenidos ilícitos y a facilitar la su supervisión independiente de sus mecanismos de control. El objetivo es conciliar las garantías a la libertad de expresión con la protección de otros derechos fundamentales en un contexto globalizado.
En este marco, la noción de “responsabilidad editorial” se convierte en piedra angular para superar la dicotomía entre simple intermediario y editor. Dado su poder para difundir, visibilizar u ocultar información, resulta inadecuado sostener el principio de neutralidad absoluta. La regulación debe establecer con claridad las condiciones de gobernanza y rendición de cuentas, estableciendo inequívocamente cuáles son las obligaciones y los límites.
Perspectivas
La moderación en las redes sociales se ha convertido en un proceso complejo que tiene implicaciones jurídicas, técnicas, políticas, sociales, éticas y culturales. Si bien surgió para mantener interacciones civilizadas y seguras, hoy es clave para regular el alcance y la calidad del debate público. Más aún en un entorno de máxima polarización y de filtros burbuja fomentados por los criterios editoriales embebidos en los algoritmos de las redes sociales.
La cuestión fundamental es cómo equilibrar la libertad de expresión y la prevención de daños. De ahí la necesidad de una regulación garantista, que evite la manipulación de las plataformas con el mismo ahínco con que se frenen las tentaciones gubernamentales de silenciar la disidencia. Que garantice la libertad de información y de expresión con la misma firmeza que el derecho de los ciudadanos a recibir una información veraz, contrastada y diversa. Que obligue a la transparencia de los algoritmos y establezca canales eficientes de reparación de daños cuando la ciudadanía o los colectivos afectados los denuncien.
Es evidente que el asunto es de alta complejidad. Su futuro dependerá de la interacción de factores como la presión social para conseguir entornos digitales seguros, la defensa de la libertad de expresión, los avances tecnológicos y la adopción de nuevas regulaciones. Reflexionar sobre ello es esencial para construir un ecosistema digital que favorezca el acceso al conocimiento y el empoderamiento cívico, a fin de tomar decisiones informadas.
Referencias:
Benesch, S. (2014). Defining and diminishing hate speech. En State of the World’s Minorities and Indigenous Peoples 2014 (pp. 18–25). Minority Rights Group International.
Citron, D. K. (2014). Hate crimes in cyberspace. Harvard University Press.
Douek, E. (2021). Governing online speech: From “posts-as-trumps” to proportionality and probability. Columbia Law Review, 121, 759–833.
European Commission. (2020). The Digital Services Act package. https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package
Gillespie, T. (2018). Custodians of the internet: Platforms, content moderation, and the hidden decisions that shape social media. Yale University Press.
Kaye, D. (2019). Speech police: The global struggle to govern the internet. Columbia Global Reports.
Kosseff, J. (2019). The twenty-six words that created the internet. Cornell University Press.
Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. NYU Press.
Shoemaker, P. J., & Vos, T. (2009). Gatekeeping theory. Routledge.
Tufekci, Z. (2015). Algorithmic harms beyond Facebook and Google: Emergent challenges of computational agency. Colorado Technology Law Journal, 13(2), 203–218.
Wardle, C., & Derakhshan, H. (2017). Information disorder: Toward an interdisciplinary framework for research and policymaking. Council of Europe.