Reino Unido amenaza con vetar X por imágenes sexuales generadas con IA
El futuro de X en Reino Unido ha entrado en zona de riesgo máximo. El primer ministro, Sir Keir Starmer, ha admitido públicamente que la red social de Elon Musk podría ser bloqueada en territorio británico después de que su herramienta de inteligencia artificial, Grok, haya sido utilizada para generar imágenes sexualizadas de mujeres y de niñas y niños. El Gobierno califica el contenido como “ilegal” y “repugnante” y traslada un mensaje inequívoco: Ofcom, el regulador, tiene su “pleno apoyo” para actuar con todos los instrumentos que le otorga la ley.
La polémica estalla apenas un año después del lanzamiento de Grok, en noviembre de 2023, y llega acompañada de una reacción política y social en cadena: desde los organismos de protección de la infancia, que hablan ya de “imágenes criminales” de menores de entre 11 y 13 años, hasta ministros que presionan para que el propio Gobierno abandone la plataforma por completo. Sobre la mesa, una posibilidad extrema: desconectar X del mercado británico si la compañía no reacciona con la contundencia exigida.
“Es ilegal y repugnante”: el aviso de Downing Street
Starmer ha elegido un tono inusualmente duro para referirse a una compañía tecnológica concreta. En una entrevista radiofónica, el primer ministro no dejó espacio a interpretaciones: calificó las imágenes generadas con Grok como “ilegales” y “simplemente intolerables”, y aseguró haber pedido que “todas las opciones” estén sobre la mesa.
“Es ilegal. No lo vamos a tolerar. He pedido que todas las opciones estén encima de la mesa. Es repugnante. X tiene que ponerse las pilas y retirar este material. Tomaremos medidas, porque simplemente no es tolerable”, subrayó.
El mensaje va más allá de una simple reprimenda. Al mencionar explícitamente la posibilidad de actuar contra la plataforma y recordar las competencias de Ofcom, Starmer sitúa a X en la diana de una legislación, la Online Safety Act, diseñada precisamente para enfrentarse a contenidos de alto riesgo, con especial atención a los que afectan a menores. El Ejecutivo lanza así una advertencia directa a Elon Musk: o se corrige el rumbo, o el coste regulatorio puede ser enorme.
Ofcom y el poder de apagar una plataforma
El papel de Ofcom es central en este pulso. El regulador confirmó que ha establecido un “contacto urgente” con X tras conocerse el uso de Grok para generar imágenes de carácter sexual sin consentimiento, incluidas imágenes de menores. No se trata de una mera solicitud de información: bajo la Online Safety Act, el organismo dispone de una batería de herramientas de presión escalonada.
El texto legal prevé que, en los casos más graves y con aval judicial, Ofcom pueda exigir a proveedores de pago, anunciantes y operadores de internet que dejen de trabajar con una determinada plataforma. Traducido a la práctica, significa que puede asfixiar financieramente y desconectar de facto a X del mercado británico, incluso sin un “apagón” técnico directo.
Que el primer ministro afirme que Ofcom cuenta con el “pleno apoyo” del Gobierno para utilizar esos poderes envía una señal clara tanto a Musk como al resto de grandes plataformas: el Reino Unido está dispuesto a llevar al límite su nuevo marco regulatorio si percibe que se cruzan líneas rojas, especialmente en lo relativo a abuso de menores y explotación sexual.
Grok, de emblema tecnológico a riesgo reputacional
Grok nació en noviembre de 2023 como el gran proyecto de inteligencia artificial de X, llamado a competir con otros chatbots generativos y a reforzar el atractivo de la plataforma para suscriptores de pago. Sin embargo, en cuestión de días la herramienta se ha convertido en un foco de riesgo reputacional y regulatorio.
La propia cuenta oficial de Grok en X admitió en un mensaje reciente la existencia de “casos aislados” en los que usuarios habrían conseguido que el sistema generase imágenes de menores con ropa mínima, pese a las supuestas salvaguardas incorporadas. El equipo aseguraba que la IA contaba con mecanismos de protección, pero que se estaban introduciendo mejoras para bloquear por completo ese tipo de solicitudes.
Lejos de calmar los ánimos, la reacción ha sido considerada insuficiente. La Internet Watch Foundation (IWF) ha confirmado que el sistema fue utilizado para crear “imágenes criminales” de menores de entre 11 y 13 años, lo que coloca el problema en el terreno del delito, no solo de la controversia ética. Para un Gobierno que ha hecho bandera de la protección de los menores en línea, el salto cualitativo es evidente.
Imágenes sin consentimiento y reacción global
El escándalo no se limita a Reino Unido. Según se ha ido conociendo, la herramienta de X ha sido utilizada en múltiples ocasiones para generar imágenes de personas desnudas o semidesnudas sin su consentimiento, partiendo de fotografías convencionales subidas a la red. La posibilidad de crear falsos desnudos hiperrealistas mediante IA se ha convertido en uno de los grandes temores de organizaciones de derechos digitales y colectivos feministas.
En este caso, el hecho de que esas imágenes hayan afectado también a niñas y niños en edad temprana agrava el problema y multiplica la presión sobre la plataforma. La IWF, que lleva años monitorizando y denunciando contenido de abuso sexual infantil en internet, ha enmarcado las imágenes generadas por Grok como material que puede encajar en categorías criminales según la legislación británica.
El resultado es una oleada de rechazo internacional contra X y contra la gestión de sus herramientas de IA. La combinación de un modelo de negocio basado en la suscripción de pago y una tecnología capaz de producir contenido sexualizado de menores sitúa a la compañía en una posición extremadamente delicada frente a reguladores, anunciantes y sociedad civil.
El terremoto político: ¿seguir o abandonar X?
La controversia ha desatado también un debate político interno sobre la relación del propio Gobierno con la plataforma. La exministra de Transporte, Louise Haigh, ha llegado a afirmar que es “inconcebible seguir utilizando la plataforma ni un minuto más”, y ha instado al Ejecutivo a abandonar X como canal institucional.
La ministra Anna Turley confirmó que “se están manteniendo conversaciones” sobre la posibilidad de salir de la red social. La también presidenta del Partido Laborista subrayó que es fundamental garantizar que el Gobierno y sus representantes se mueven en un “espacio seguro” y añadió que la prioridad inmediata es que “X se ponga las pilas” y elimine el contenido denunciado.
“El primer ministro ha sido muy claro: esto es absolutamente aberrante. Ofcom tiene poderes para actuar, y queremos asegurarnos de que utiliza las facultades que le hemos dado. Por supuesto, seguiremos evaluando la situación”, apuntó Turley. El mensaje refleja una doble presión: hacia el regulador, para que actúe con firmeza, y hacia la propia plataforma, para que demuestre que puede controlar el comportamiento de sus herramientas de IA.
La respuesta de X: limitar Grok a suscriptores de pago
Mientras crecía la polémica, la cuenta de Grok en X modificó su comportamiento. A día de hoy, las peticiones de imágenes reciben una respuesta estandarizada en la que se indica que la generación y edición de imágenes está limitada a suscriptores de pago, invitando a los usuarios a contratar la versión premium de la plataforma mediante un enlace directo.
Este movimiento plantea varias incógnitas. Por un lado, sugiere que X intenta acotar el uso de la herramienta a un grupo más reducido de usuarios, presumiblemente sometidos a unas condiciones de servicio más estrictas. Por otro, alimenta el debate sobre si la plataforma está monetizando una función que ha demostrado poder ser utilizada para producir contenido ilegal, en lugar de suspenderla por completo hasta garantizar su seguridad.
Para los críticos, limitar Grok a usuarios de pago no resuelve el problema de fondo: la existencia de una IA capaz de generar imágenes sexualizadas sin consentimiento y, potencialmente, material que afecta a menores. Para el Gobierno británico, la cuestión clave será si esas medidas son suficientes para considerar que X cumple con las exigencias de la Online Safety Act o si, por el contrario, se justifica activar la vía dura de sanciones y bloqueos.
Un caso de prueba para la regulación de la IA
Más allá del futuro inmediato de X en Reino Unido, el caso se perfila como un test de estrés para la nueva regulación digital británica. El escándalo combina varios elementos críticos: una gran plataforma global, una herramienta de inteligencia artificial generativa, la explotación sexual de menores y la capacidad de un regulador nacional para imponer consecuencias reales.
El Gobierno ha insistido en que no tolerará la circulación de este tipo de contenido y que está dispuesto a respaldar a Ofcom si decide utilizar sus poderes en toda su extensión. Para Musk y su equipo, la alternativa es clara: endurecer de forma radical los controles de Grok y demostrar que la herramienta puede operar sin generar riesgos inasumibles, o enfrentarse a un escenario en el que Reino Unido se convierta en uno de los primeros mercados en vetar parcialmente una gran red social por el uso de IA generativa.