Ética & sociedad Los filtros automáticos de Reddit borran contenido verificado por historiadores
La confianza en el contenido generado por IA cae al 20% mientras plataformas como Reddit y YouTube ven cómo los algoritmos de moderación automática borran contenido valioso. La solución, paradójicamente, no es más tecnología sino más curaduría humana.
A principios de 2026, los moderadores de r/AskHistorians, una de las comunidades más rigurosas de Reddit, comenzaron a recibir una avalancha de alertas automáticas. En cuestión de horas, decenas de comentarios y publicaciones que llevaban hasta una década en pie —respuestas verificadas por historiadores, debates con fuentes, análisis minuciosos— fueron eliminados por los sistemas de moderación de la plataforma. El algoritmo, entrenado para detectar contenido tóxico o generado por inteligencia artificial, no distinguió entre un análisis académico de la Guerra Fría y un texto de baja calidad fabricado por un modelo de lenguaje. El resultado fue el mismo: borrado sin apelación.
Este incidente, reportado por Ars Technica, ilustra un problema que crece en silencio mientras las grandes plataformas compiten por automatizar la moderación de contenidos. La misma tecnología que se utiliza para generar textos, imágenes y videos sintéticos se está usando para detectarlos, pero el margen de error —especialmente en contenido legítimo— es cada vez más difícil de tolerar. Y cuando el error sistemático afecta a comunidades enteras, la confianza del usuario se resquebraja.
Según un estudio publicado en la revista Science Direct sobre el uso de algoritmos de detección de toxicidad en sistemas de moderación proactiva, los modelos actuales tienen dificultades para interpretar contexto, ironía, referencias culturales o simplemente contenido de alta calidad que no encaja con los patrones estadísticos con los que fueron entrenados. La consecuencia es doble: contenido dañino que se cuela y contenido valioso que desaparece. En un ecosistema donde cada vez más personas desconfían de lo que ven, este tipo de falsos positivos no es un simple error técnico: es una erosión sistemática de la credibilidad de la plataforma.
El fenómeno tiene una dimensión aún más preocupante cuando se mira desde la perspectiva del usuario final. Un sondeo reciente citado por el medio español Merca2 revela que la confianza en el contenido generado por inteligencia artificial ha caído al 20 %. Frente a esta desconfianza, los usuarios están migrando hacia espacios donde la curaduría humana sigue siendo el estándar. YouTube y Substack, dos plataformas que han apostado por dar visibilidad a creadores que editan, verifican y contextualizan su contenido, están ganando tracción precisamente por ofrecer lo que los sistemas automáticos no pueden: la certeza de que detrás de lo que se publica hay una persona que responde.
Lo paradójico es que, para proteger a las comunidades del contenido generado por IA de baja calidad, las plataformas están desplegando más IA, y eso está generando un círculo vicioso. Los sistemas de moderación algorítmica, al equivocarse, expulsan a usuarios reales que producen contenido de calidad; esos usuarios se van a plataformas con curaduría humana; y las plataformas originales, al perder engagement y contenido auténtico, refuerzan su apuesta por la automatización. El resultado es una espiral en la que la tecnología resuelve un problema que ella misma agravó.
Para América Latina, donde plataformas como WhatsApp, Facebook y YouTube son la principal fuente de información para millones de personas, el asunto tiene implicaciones concretas. Una moderación automatizada mal afinada no solo borra contenido valioso de historiadores, divulgadores o periodistas locales, sino que también puede silenciar voces de comunidades indígenas, activistas ambientales o defensores de derechos humanos que utilizan registros lingüísticos y referencias culturales que los algoritmos globales no entienden. En un artículo académico publicado en AI & Society, investigadores advierten sobre lo que llaman "imperialismo cognitivo" en los sistemas de inteligencia artificial: modelos entrenados mayoritariamente con datos de países del norte global que, al aplicarse en contextos diversos, sesgan, excluyen o directamente borran formas de conocimiento no hegemónicas.
El problema no es solo técnico: es una cuestión de legitimidad. Si las plataformas pretenden ser espacios de intercambio de conocimiento y debate público, no pueden delegar por completo su cuidado en algoritmos que, por diseño, no entienden de matices. La moderación asistida por inteligencia artificial puede ser una herramienta poderosa para escalar la revisión de contenido, pero sin supervisión humana constante, sin canales de apelación efectivos y sin mecanismos de transparencia que permitan a las comunidades entender por qué se elimina su contenido, la confianza seguirá erosionándose.
La pregunta que deberían hacerse quienes diseñan políticas de contenido en las grandes tecnológicas —y también quienes regulan su uso en la región— no es si la inteligencia artificial puede moderar mejor que un humano, sino si queremos que lo haga sin rendir cuentas. Porque cuando una máquina decide qué merece estar en la conversación pública, el error ya no es técnico: es político.
