Indonesia bloqueó temporalmente este sábado el acceso al chatbot Grok, desarrollado por la compañía xAI, vinculada al empresario Elon Musk, debido a la creciente preocupación sobre la difusión de contenido explícito generado por esta inteligencia artificial, según informó la ministra indonesia de Comunicaciones y Digitalización, Meutya Hafid.
Según Hafid, «el Gobierno considera que la práctica de ‘deepfakes’ sexuales no consentidos es una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital». La ministra señaló que solicitó explicaciones a los representantes de la red social X, donde opera Grok, para aclarar los mecanismos de control de la plataforma.
La medida convierte a Indonesia en el primer país en restringir este servicio, en un contexto de creciente condena internacional y de investigaciones regulatorias similares en Europa y Asia. Expertos en seguridad digital advierten que la popularización de inteligencias artificiales como Grok podría facilitar la creación y distribución de contenidos sexuales no consentidos, lo que ha provocado alarma entre defensores de los derechos digitales y asociaciones de protección a menores.
Ante la polémica, xAI anunció que limitará la generación y edición de imágenes solo a usuarios de pago mientras corrige fallos de seguridad que permitieron la difusión de contenidos sexuales. La compañía aseguró que está trabajando en filtros más estrictos para prevenir que se compartan materiales explícitos sin consentimiento.
