Cuando Meta suspendió una cuenta política de Instagram durante horas en plena jornada de votación anticipada en Estados Unidos el 17 de octubre, y al mismo tiempo enfrentaba acusaciones de favorecer a un candidato en la segunda vuelta presidencial de Brasil, quedó en evidencia un problema estructural: los sistemas automatizados de moderación de contenido pueden convertirse en actores involuntarios —o no— de los procesos electorales. La EFF advierte que la escala no es excusa suficiente.
La moderación de contenido a escala masiva nunca fue un problema resuelto, pero durante períodos electorales sus fallas dejan de ser un asunto técnico para volverse un asunto democrático. Meta atribuyó la suspensión de la cuenta a “errores” de sus sistemas automatizados, incluidas herramientas de inteligencia artificial que, según la empresa, no distinguen entre una oleada de seguidores genuinos y un ataque de bots. El Meta Oversight Board criticó públicamente el episodio. En paralelo, la plataforma negó haber intervenido deliberadamente en el proceso electoral brasileño, aunque según se informó circularon acusaciones de sesgo algorítmico a favor de uno de los candidatos en los días previos al balotaje.
Automatización con sesgo: el caso del árabe y el problema de los idiomas minoritarios
La automatización no es el problema en sí misma: los sistemas algorítmicos pueden procesar volúmenes de contenido que ningún equipo humano podría revisar en tiempo real, y teóricamente permiten una moderación más consistente. El problema es que esos mismos sistemas reproducen sesgos preexistentes y fallan con mayor frecuencia cuando el idioma o el contexto cultural se alejan de los datos con los que fueron entrenados. Un documento interno filtrado de Meta en 2020 mostró que sus algoritmos eliminaban contenido en árabe no violento el 77% de las veces, mientras fallaban en detectar discurso de odio real en ese idioma. El patrón no es una anomalía: es la consecuencia predecible de entrenar modelos principalmente con datos en inglés y luego desplegarlos globalmente.
Este desequilibrio afecta de manera desproporcionada a periodistas, activistas y comunidades marginadas, precisamente los actores cuya participación en el debate público resulta más sensible durante procesos electorales. Y el costo humano no es solo el del usuario cuya cuenta queda suspendida: los moderadores humanos que complementan estos sistemas están expuestos de manera sostenida a contenido extremadamente perturbador, con salarios que rara vez reflejan esa carga.
Cuándo aplica la responsabilidad de las plataformas y cuándo NO
Las plataformas no son árbitros neutrales de la información. Cada decisión de diseño —qué se amplifica, qué se suprime, qué se modera automáticamente— tiene efectos sobre la conversación pública. Eso no significa que sean responsables de toda la desinformación que circula en sus redes, ni que tengan la obligación de garantizar la victoria de ningún candidato. Lo que sí implica, según la EFF, es que deben contar con sistemas robustos de revisión y apelación rápida, especialmente durante ventanas electorales críticas. Un error que dura horas durante una jornada de votación anticipada no es equivalente a un error que dura horas en un día ordinario.
La distinción también importa desde el punto de vista regulatorio. No es lo mismo un error sistémico documentado y repetido —que podría configurar negligencia o incluso responsabilidad objetiva bajo ciertos marcos— que una falla puntual corregida dentro de un plazo razonable. Las plataformas que no puedan demostrar que tienen procesos de escalada y remediación operativos durante períodos electorales quedan expuestas a escrutinio regulatorio creciente.
Brasil, México y Argentina: tres marcos regulatorios que ya miran este problema
En América Latina, el cruce entre moderación algorítmica y derechos políticos tiene dimensiones concretas. Brasil acaba de vivir un balotaje presidencial con acusaciones directas contra Meta, en un país donde la Lei Geral de Proteção de Dados (LGPD) ya establece obligaciones sobre decisiones automatizadas que afectan a personas —aunque su aplicación en contextos electorales todavía es incipiente. La ANPD brasileña podría, en principio, investigar si el tratamiento algorítmico de datos de usuarios influyó en la visibilidad del contenido político, aunque ese terreno jurídico aún no está del todo mapeado.
En México, el Instituto Nacional Electoral (INE) y el INAI coexisten sin un marco claro que articule la moderación de plataformas con la protección de datos en contexto electoral. La LFPDPPP no contempla explícitamente decisiones algorítmicas con impacto en derechos políticos. En Argentina, la Ley 25.326 tampoco prevé ese cruce, aunque la AAIP ha comenzado a pronunciarse sobre inteligencia artificial en términos generales. La brecha regulatoria es regional: ningún país de la región tiene hoy un régimen específico que obligue a las plataformas a garantizar estándares mínimos de moderación durante períodos electorales, ni plazos de remediación ante errores que afecten la participación política.
Lo que sí puede exigirse: transparencia, apelación y velocidad de respuesta
La EFF no propone que las plataformas moderen menos, sino que moderen mejor: con sistemas de apelación rápidos y efectivos, con mayor transparencia sobre los criterios que activan las restricciones automáticas, y con mecanismos específicos para períodos electorales que reconozcan el mayor riesgo de daño. Esos tres elementos —transparencia, apelabilidad y velocidad— no requieren solucionar el problema filosófico de qué es discurso legítimo y qué no. Requieren ingeniería organizacional y voluntad política corporativa.
Para los reguladores latinoamericanos, el episodio de Brasil ofrece un argumento concreto para avanzar en legislación que específicamente contemple el impacto de los sistemas automatizados de moderación sobre los derechos políticos, diferenciándolo del marco general de protección de datos personales. Son problemas relacionados pero no idénticos.
El texto completo de la declaración del Meta Oversight Board sobre integridad electoral está disponible en oversightboard.com; los marcos regulatorios sobre decisiones automatizadas en Brasil pueden consultarse en la ANPD (gov.br/anpd).
