La red social X, propiedad de Elon Musk, ha decidido restringir el generador de imágenes de su herramienta de inteligencia artificial Grok tras la polémica generada por la creación masiva de imágenes sexualizadas, entre ellas representaciones de menores de edad.
La compañía ha limitado el acceso a la función de creación y edición de imágenes únicamente a los usuarios de pago. Aquellos perfiles que no cuentan con una suscripción activa reciben ahora un mensaje automático en el que se les invita a contratar el servicio premium para desbloquear esta herramienta.
«La creación y edición de imágenes actualmente sólo está disponible para miembros de pago», responde Grok cuando los usuarios intentan modificar fotografías o generar imágenes con contenido sexualizado, especialmente de mujeres y niños.
Según informaciones de medios económicos estadounidenses, el abuso del chatbot comenzó a finales de diciembre, pero se intensificó de forma notable durante Nochevieja, cuando miles de usuarios empezaron a solicitar imágenes explícitas generadas mediante IA. En la mayoría de los casos, las imágenes se difundieron sin el consentimiento de las personas representadas.
La escalada del escándalo provocó reacciones tanto dentro como fuera de la plataforma. Autoridades de varios países expresaron su preocupación por el uso de la herramienta. En Reino Unido, el Gobierno llegó a advertir sobre una posible prohibición de X si no se tomaban medidas inmediatas para frenar la difusión de este tipo de contenidos.
El propio Elon Musk se pronunció en X para defender la actuación de su empresa, advirtiendo de que «cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal a la plataforma».
Las políticas internas de xAI, la empresa responsable del desarrollo de Grok, prohíben explícitamente la generación de imágenes pornográficas de personas reales y cualquier forma de sexualización o explotación de menores. Sin embargo, el caso ha vuelto a poner sobre la mesa los riesgos asociados al uso masivo de inteligencia artificial sin controles efectivos y la dificultad de las plataformas para frenar abusos una vez que estas tecnologías se popularizan.
