La propuesta europea conocida como Chat Control plantea un escenario inquietante que nos traslada, como en la novela 1984 de George Orwell, a una realidad de vigilancia perpetua bajo un Gran Hermano digital. Resulta sumamente grave otorgar a las plataformas digitales la obligación de escanear y analizar el contenido de todas las comunicaciones privadas con el fin de detectar material de explotación sexual infantil. Una finalidad incuestionablemente legítima, pero perseguida mediante un mecanismo que, en la práctica, convierte a cada ciudadano en un potencial sospechoso y sitúa nuestras conversaciones bajo la lupa de un Gran Hermano digital sin control alguno.
La cuestión de fondo no es si debemos proteger a los menores —eso nadie lo discute—, sino si estamos dispuestos a sacrificar los pilares del Estado de Derecho en nombre de una seguridad ilusoria.
Desde la óptica jurídica, el Chat Control vulnera al menos tres derechos fundamentales reconocidos tanto en la Constitución Española como en la Carta de Derechos Fundamentales de la Unión Europea: el derecho a la privacidad, el secreto de las comunicaciones y la presunción de inocencia. El primero, consagrado en el artículo 18.1 de la Constitución y en el artículo 7 de la Carta, se ve amenazado porque el control indiscriminado de mensajes supone una intromisión directa en la vida privada de millones de ciudadanos que no están siendo investigados por ningún delito. El segundo, protegido en el artículo 18.3 de la Constitución y en el artículo 8 de la Carta, se quiebra porque en España solo un juez puede autorizar la intervención de una comunicación, y siempre de forma individualizada y motivada. La monitorización masiva rompe ese principio, sustituyendo la autorización judicial por un algoritmo, con los errores, sesgos y arbitrariedades que ello conlleva. El tercero, la presunción de inocencia, reconocida en el artículo 24 de la Constitución y en el artículo 6 de la Carta de Derechos de la Unión, se ve igualmente erosionado, ya que el sistema trata a todos los usuarios como posibles delincuentes, invirtiendo la lógica del Derecho: no es el Estado quien debe demostrar la culpabilidad, sino el ciudadano quien queda expuesto permanentemente a ser investigado.
El riesgo de que un algoritmo actúe como juez es evidente. El Chat Control se basa en sistemas automáticos de detección, y ahí surge un doble problema. Por un lado, los falsos positivos: una foto privada, un chiste o un archivo alterado pueden ser interpretados erróneamente como material ilícito, provocando no solo una intromisión grave en la intimidad, sino también daños irreparables en la reputación de personas inocentes. Por otro, la opacidad técnica: los algoritmos no son transparentes ni infalibles. Ya hemos visto cómo Meta se vio obligada a reconfigurar sus mecanismos y a reconocer que la censura aplicada durante años fue, en buena medida, arbitraria. Dejar que una máquina filtre la intimidad de millones de europeos equivale, desde un punto de vista jurídico, a delegar la función de control judicial en un sistema opaco e irresponsable.
Los juristas advierten además del conocido efecto escalera o slippery slope: una vez implantado un mecanismo de vigilancia masiva con una finalidad concreta, se abre la puerta a que su uso se extienda a otros ámbitos. Hoy se justifica por la lucha contra la pornografía infantil; mañana podría ser el terrorismo, el narcotráfico, la evasión fiscal o incluso el discurso político considerado «peligroso». El problema no reside en el primer uso, sino en el precedente que se crea. Lo excepcional acaba convirtiéndose en habitual, y la excepción, en norma.
El Tribunal Europeo de Derechos Humanos ha sido claro al respecto: toda injerencia en la vida privada debe cumplir los principios de necesidad, idoneidad y proporcionalidad. El Chat Control, sin embargo, no cumple ninguno de los tres. No es necesario, porque existen medios de investigación selectivos y dirigidos que permiten perseguir delitos concretos sin vulnerar los derechos de millones de inocentes. No es idóneo, porque los delincuentes reales ya utilizan redes cifradas o sistemas fuera del alcance de estas medidas, mientras que la vigilancia afectará sobre todo a ciudadanos comunes. Y no es proporcional, porque el sacrificio de derechos fundamentales es desmesurado en comparación con la eficacia real que pueda tener el sistema.
Aceptar el Chat Control equivale a aceptar la lógica del Gran Hermano digital: la vigilancia permanente, la sospecha generalizada y la erosión progresiva de las libertades. No se trata de negar la necesidad de proteger a los menores, sino de recordar que la seguridad no puede construirse sobre la demolición de la privacidad. Como ha recordado el Tribunal Constitucional español, los derechos fundamentales no son concesiones del Estado, sino garantías frente a él. Y un Estado que vigila a todos sin orden judicial no protege a sus ciudadanos, sino que los convierte en súbditos.
La lucha contra la explotación infantil debe ser firme y decidida. Pero si para combatirla renunciamos al secreto de nuestras comunicaciones, estaremos renunciando a algo mucho más profundo: a la esencia misma de la democracia.
