Inteligencia artificial para luchar contra la desinformación: ¿una amenaza para la libertad de expresión?

Esta semana ha tenido lugar la II Feria de Alta Tecnologías de Seguridad e Inteligencia, Drones y Antidrones TECNOSEC 2023 en el Recinto Ferial de la Casa de Campo. Un evento importante para la industria nacional al situarse al mismo nivel que grandes empresas del sector de la ciberseguridad de otros países como Francia o Reino Unido.

Más de 100 empresas han presentado sus últimos productos relacionados con la seguridad y defensa en donde la inteligencia artificial ya es la tónica general. Los mundos de la ciencia ficción de hace unas décadas ya son una realidad: entrenamiento virtual para fuerzas de seguridad en entornos urbanos, robots conectados por GPS con drones para realizar tareas de seguridad, drones para el estudio de suelo para uso agrícola, inteligencia y contrainteligencia, cámaras de reconocimiento facial para control ciudadano… La famosa dicotomía entre libertad y seguridad aquí no existe: domina la segunda.

Esta feria cuenta con el beneplácito del Ministerio de Interior y tanto la Policía Nacional como la Guardia Civil, pasando por la Policía Municipal de Madrid han mostrado los últimos juguetes —como los llaman ellos— para el control de personas en entornos urbanos, eventos y un largo, larguísimo etcétera. La tecnología avanza mucho más rápido que la sociedad y las Fuerzas y Cuerpos de seguridad del Estado necesitan contrarrestar las capacidades de los cibercriminales en un entorno cada vez menos físico y más digital. Este avance permite nuevas técnicas en ciencias forenses, aviación, sistemas de detección de movimiento o, incluso, estudio y detección de delitos de odio.

Dos claves

Los dos pilares principales son los datos (Big Data) y la inteligencia Artificial (AI, por sus siglas en inglés). Ambos, de manera individual, ya son de por sí muy valiosos, pero la conjunción de ambos es lo que permite estar un paso por delante de la competencia. El cruce de datos de todo tipo (siempre amparado por la ley de protección de datos, o al menos eso aseguran desde el Ministerio de Interior), puede servir para anticipar crímenes o conocer el perfil de determinados criminales que podría ser cotejado con la población general. La película Minority Report de Tom Cruise parecía un imposible hace años. Hoy es ya una realidad.

Los científicos forenses, gracias al uso de inteligencia artificial y a la extensión de redes como la 5G y la futura 6G pueden trabajar en tiempo real con sus compañeros con la creación de un escenario criminal en realidad virtual, así como la obtención de datos in situ que era imposible hasta hace muy poco.

Empresas como Sol-fix Smartcity video, Prosegur Security, Octopus Tactical Software, Grupo Hispa, Scati o Eurocop presentaron sus últimos avances para facilitar el control en entornos urbanos, eso que se conoce en la Agenda 2030 en el punto 11 como Ciudades y comunidades sostenibles. El concepto Smart puede traducirse como «control», «seguimiento». Si lo asociamos a ciudad, nos da como resultado ciudades inteligentes. Es decir, ciudades dominadas por inteligencia artificial, seguimiento constante de la ciudadanía, cruces de bases de datos para aumentar la seguridad en detrimento de la libertad. La tecnología expuesta en esta feria es semejante a la que se usa en China desde hace años: reconocimiento facial instantáneo, lectura del iris, lectura de matrículas, etc. Las ciudades de 15 minutos, ya explicadas en este medio, tendrán como base toda la tecnología de smartcities para ponerla en marcha. Tecnología para prevenir el cambio climático, o al menos esa es la versión oficial.

Tecnología contra la desinformación

Una de las conferencias sobre tecnología aplicada al día a día de cualquier ciudadano fue la de la empresa Expert.AI dedicada al desarrollo del motor de control y seguimiento de lo que se conoce como «desinformación». La hiperconectividad a la que estamos expuestos por el desarrollo actual de las tecnologías afecta a nuestra capacidad cognitiva. Esto es un hecho irrefutable. Factores cognitivos y socioafectivos determinan cómo cada persona entiende y analiza el mundo que le rodea. Noticias falsas, sesgadas, propaganda, rumores, clickbait cada vez más común, «ciencia-basura», ideas conspiranoicas o spam están a la orden del día. La broma y la sátira, cuando se confunde con la realidad, también se incluye de manera oficial en el paquete de la «desinformación». El peligro está ahí. Ahora bien, ¿qué grupos sirven como muestra de información veraz para usarlos como referente comparativo?

Esta empresa lleva años participando en proyectos europeos H220 relacionados con el tema de la desinformación:

• DANTE: Detección y análisis de contenidos online y actividades de financiación relacionadas con terrorismo.
• ANITA: Herramientas para luchar contra el tráfico ilegal online.
• CICERO: Campaña de comunicación contranarrativa destinada a prevenir la radicalización.
• CO-INFORM: Creación conjunta de sociedades resistentes a la desinformación.
• AIDA: Inteligencia artificical y análisis avanzado de datos para agencias de seguridad.
• TRACE: Desarrollo de soluciones de IA para interrumpir flujos de dinero ilícito.

La Unión Europea lleva años trabajando contra la «desinformación» en varios niveles. La lucha contra el terrorismo y el enriquecimiento ilícito es loable pero, ¿qué ocurre cuando lo que se considera oficialmente como «desinformación» choca frontalmente contra la libertad de expresión?

Las evidencias para comparar son relativas a la fuente (autor, editor, cuenta social, plataforma, sitio web) y fact-checkers (los comisarios políticos digitales): sitios de fact checking, claimreviews, etc. Surgen nuevas dudas: ¿son los fact-checkers realmente independientes como para ser fuentes fiables no contaminadas? ¿Son los medios de comunicación tradicionales también fuentes fiables sin conflictos de intereses? ¿Son las universidades dominadas por la ideología woke fuentes de autor sin sesgo alguno? ¿Cómo afecta esto dentro de la nueva etiqueta de «delito de odio» bajo la que se incluye todo lo que va en contra de la narrativa oficial imperante?

Los retos son varios: extensión, volumen, velocidad, exposición o alfabetización informacional. «Las noticias falsas se expanden hasta cinco veces más rápido que una noticia verdadera», explica Flavio Merenda, desarrollador e investigador en procesamiento de lenguaje natural. Esto es un problema, cierto, ¿pero es desinformación todo lo que nos llega de otros países, por ejemplo? ¿Se puede llegar a considerar «desinformación» a los mismos Gobiernos que intentan controlar los flujos de información privados? El ejemplo lo tenemos en el actual Gobierno español: información de parte, manipulación de datos, sesgo ideológico evidente y mentiras descaradas.

La tecnología de seguridad y el uso de drones es una realidad a la que habrá que acostumbrarse lo antes posible. Esto no indica que haya que dejar de lado la lucha por los derechos fundamentales, entre ellos la libertad de expresión, hoy atacada y considerada en algunos casos como «delito de odio».