El cofundador de Microsoft, Bill Gates, ha reabierto el debate sobre los riesgos asociados al desarrollo de la inteligencia artificial (IA) y ha advertido de que esta tecnología podría llegar a provocar acontecimientos con un número masivo de víctimas.
En una entrevista con el programa Meet the Press, de la cadena estadounidense NBC, Gates ha señalado que la IA es una herramienta con una capacidad potencial de daño sin precedentes cuando es utilizada por personas con malas intenciones.
El veterano directivo ha añadido que «nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas». Sus declaraciones se suman a las advertencias realizadas durante los últimos meses por dirigentes empresariales e investigadores del sector tecnológico.
El debate sobre los riesgos de la IA se ha intensificado a medida que los modelos avanzados aumentan sus capacidades. Dentro de la propia industria se han producido también llamamientos para establecer límites al desarrollo de sistemas que puedan alcanzar niveles de autonomía y capacidad superiores a los actuales.
Uno de los últimos episodios se produjo después de que Jacob Coxon, antiguo empleado de Anthropic, abandonara la compañía y cuestionara públicamente la velocidad con la que las empresas del sector están desarrollando sus sistemas. Coxon acusó a Anthropic y OpenAI de «jugar con nuestras vidas» al avanzar hacia una eventual IA superinteligente.
Otro trabajador de Anthropic llegó a afirmar que considera superior al 10% la probabilidad de que la IA provoque la desaparición de la humanidad durante la próxima década.
El debate sobre la seguridad de la IA ha provocado diferentes propuestas para reforzar los mecanismos de supervisión y control. El consejero delegado de Anthropic, Dario Amodei, ha defendido ralentizar determinados desarrollos, una posición que también ha recibido respaldo público de figuras como Sam Altman, CEO de OpenAI, y Elon Musk, máximo responsable de SpaceX.
Anthropic, además, ha reclamado una mayor intervención regulatoria mientras prepara su eventual salida a Bolsa.
En este contexto, Gates considera insuficiente la autorregulación de las empresas tecnológicas. «Es necesario que las fuerzas del orden y los políticos participen en el debate sobre cómo deben ser las salvaguardas y la supervisión», ha señalado.
El cofundador de Microsoft ya había advertido en agosto, en un ensayo, de que los ciberdelincuentes podrían aprovechar herramientas de IA cada vez más sofisticadas para ejecutar ciberataques, cometer fraudes, generar desinformación y provocar daños a gran escala contra hospitales, entidades financieras, redes eléctricas y sistemas gubernamentales.
