Entradas

Cancelación por algoritmo

Estas semanas estamos viendo una concentración de casos de cuentas cerradas, bloqueadas o marcadas como “sensibles” por distintas empresas de redes sociales. Facebook se ha cubierto de gloria con el cierre de las cuentas de Félix Ovejero y Augusto Ferrer Dalmau (tan aberrantes que la sociedad civil se ha movilizado hasta recuperarlas), Twitter ha vuelto a las andadas bloqueando la de Consuelo Ordóñez (por publicar fotos de recuerdo de atentados; recordemos que ya bloqueó la de COVITE en su día supuestamente por escribir “bomba”), y hasta Google ha metido la pata marcando como “sensible” y restringiendo el blog de Patxi Mendiburu, Desolvidar, que no podría ser menos objetable.

 Todo esto en un contexto en el que las barbaridades, insultos y difamaciones en redes no han dejado de crecer. Las “parodias” separatistas contra Inma Alcolea superan récords cada semana mientras Twitter cierra cuentas a la acosada. 

Las causas no podrían ser más sencillas ni más preocupantes. Desde que existen los foros y redes sociales, la moderación manual de textos ha sido un problema por el coste de tiempo y criterio que requieren, de modo que las empresas que impulsan su masificación actual han optado por la solución más basta del libro: la moderación automática por criterios de denuncia, con desenlace de exclusión.

Se supone que Facebook y otros usan “inteligencia artificial” para identificar los contenidos realmente problemáticos, pero eso no es más que un agravante: la IA no hace más que extrapolar sobre decisiones de moderadores en función de criterios que ella misma identifica. Es decir, va a palpo y reproduce los prejuicios de los moderadores que la entrenan. Una forma muy poco sensata de administrar algo tan serio como la pérdida de tu presencia en redes sociales, que hoy en día está muy cerca de ser un servicio esencial y que toca muy de cerca los derechos de propiedad intelectual. Quien quiera reducir esto a una cuestión interna de las empresas y sus condiciones de servicio, puede engañarse a sí mismo, pero a nadie más.

 A ese fallo de los sistemas de moderación automáticos (mal entrenados, mal preparados y demasiado poderosos para tomar decisiones de ese alcance sin supervisión) se suma un problema básico de criterio. No se puede censurar en función de lo que otros, sin cualificar, opinen de tus textos o contenidos. Lo sabe cualquiera que haya llevado foros o redes y lo sabe cualquiera que haya observado a la especie humana: es el equivalente de entregar la llave de la expresión pública a los más radicales.

Quien se moviliza contra una página web (o una película o un profesor) habitualmente no es quien respeta la opinión ajena, sino quien sólo respeta la propia. Quien denuncia a Consuelo Ordóñez por recordar a los que murieron por defender la libertad de todos no es una persona de cuyo criterio puedas fiarte. El resultado de gobernarse por el nivel de gritos que desatan tus acciones es que gobierne quien más grita; y, si bien es cierto que hay cosas que hacen gritar a la gente normal, a quienes más se oye suele ser a los extremistas.

Hay una derivada aún más grave, y es que este criterio del “gobierno por queja” ya viene usándose fuera de redes en demasiados casos -en EEUU, por ejemplo- con consecuencias conocidas. Desde antes de que le pusieran el nombre de “cancelación”, ya había puesto patas arriba la libertad de opinión, expresión y cátedra en muchas universidades, donde la búsqueda de “zonas seguras” (entornos en los que nadie se sintiera ofendido) ha tenido consecuencias funestas. La “cultura woke” no es más que eso: exigir que no sea permitido nada que resulte ofensivo para los valores de la postcorrección política, sin relación con detalles como la ley o la demostración de lasCensura, acusaciones.

En definitiva, consiste en exigir que se “cancelen” opiniones e incluso personas que alguien ha decidido que no encajan, condenando a muerte profesional y civil a disidentes académicos, o incluso actores. “Cancelar” la historia destruyendo las raíces a partir de las que hemos evolucionado (como nuestros nietos evolucionarán a partir de estas aberraciones), juzgando a personajes históricos por criterios actuales hasta eliminarles de los libros de texto, de las bibliotecas y de las plazas.

 Si algo hemos aprendido desde la Ilustración es que la libertad depende de exigir el respeto a la disidencia, a la divergencia de opinión. De poner coto a los que más gritan e incluso a la mayoría para evitar que pisoteen a los demás. Hemos aprendido que no se puede prohibir una película porque sea ofensiva para los cristianos, ni una novela porque glorifique modos de vida alejados de la moral general ni un ensayo porque cuestione la interpretación actual de un hecho histórico. El único límite es la defensa de derechos más básicos y la preservación del sistema que los garantiza: el negacionista del Holocausto es un ejemplo; la mentira o los ataques al honor son otros.

Las quejas deberían servir para alarmar, para generar una intervención cualificada, proporcionada y sensata, de la que la empresa se haga siempre responsable. No pueden servir para privar automática y ciegamente de voz y presencia a una persona en función del griterío de intolerantes, con el único recurso real de gritar más. Por el lado contrario, un sistema que se olvida de defender lo básico si no escucha quejas suficientes no va a funcionar bien nunca.

Quiero pensar que esta expansión de la “cultura de cancelación” a la red es una simple cuestión de beneficios que podrá resolverse con mejor tecnología, y no algo mucho más grave. Si realmente los gestores de las redes piensan que se puede dejar la libertad de expresión en manos de detectores de humo manipulables por los más fumadores, el problema es de fondo, y la regulación externa de las redes, una necesidad. No sólo para garantizar que no se excluye al disidente, sino para garantizar la protección de derechos básicos. En resumen, que se cumpla la ley.

 

Mientras tanto, toca redoblar la vigilancia desde la sociedad civil.