El Reino Unido pone la lupa sobre Grok en X: Ofcom investiga el “editor de imágenes” por riesgo de contenido ilegal
El regulador británico Ofcom ha abierto una investigación formal contra X por el uso de su herramienta de edición de imágenes impulsada por Grok, al evaluar si la plataforma ha hecho lo suficiente para impedir y retirar contenido ilegal —incluidas manipulaciones sexualizadas— y para reforzar controles como la verificación de edad. El caso se enmarca en la Online Safety Act y llega en plena oleada de presión internacional sobre el uso de IA para generar imágenes no consentidas.
Qué ha anunciado Ofcom y por qué ahora
El regulador británico Ofcom ha anunciado el inicio de una investigación formal sobre la plataforma X a raíz del despliegue de un servicio de edición de imágenes impulsado por su chatbot de IA, Grok. El objetivo es determinar si la compañía ha cumplido con sus obligaciones legales para proteger a los usuarios del Reino Unido frente a contenidos ilegales, incluyendo medidas de prevención, retirada y control de acceso.
El foco: manipulación de fotografías y material potencialmente ilegal
El detonante del expediente son informes que apuntan a que la herramienta habría permitido alterar fotografías para generar imágenes sexualizadas, incluyendo contenido no consentido y, según las advertencias trasladadas al regulador, incluso representaciones sexualizadas de menores. Ofcom ha descrito estos avisos como “profundamente preocupantes” y ha señalado que recabará evidencias para evaluar si las salvaguardas desplegadas por la plataforma han sido suficientes.
Qué exige la Online Safety Act: deber de diligencia y controles efectivos
La investigación se apoya en la Online Safety Act, que impone a las plataformas un deber de diligencia para gestionar riesgos de contenido ilegal y, cuando proceda, adoptar medidas proporcionadas para reducir exposición, retirar contenidos y hacer cumplir sus propias normas. En el caso de servicios con riesgo de acceso por menores, el regulador también evalúa la eficacia de herramientas de age assurance (verificación o estimación de edad) y otras barreras.
Qué se juega X: multas relevantes e incluso bloqueo
Si Ofcom concluye que X ha incumplido sus obligaciones, el regulador puede ordenar medidas correctivas y aplicar sanciones económicas de gran alcance. El marco legal contempla multas de hasta 18 millones de libras o el 10% de la facturación mundial (la cifra que sea mayor). En casos especialmente graves, Ofcom también puede solicitar medidas para restringir el acceso al servicio en Reino Unido, normalmente mediante un proceso judicial.
El contexto: presión política y escrutinio internacional sobre la IA generativa
El expediente llega en un momento en el que el uso de IA para generar o “editar” imágenes ya no se trata como una anécdota tecnológica, sino como un problema de seguridad, privacidad y derechos. En los últimos días, el debate se ha intensificado por el auge de herramientas capaces de “desnudar” imágenes o crear deepfakes de apariencia realista, y por la discusión pública sobre si las plataformas están incorporando frenos suficientes por diseño, o si reaccionan solo cuando el daño ya está hecho.
Qué puede pasar a partir de aquí
El proceso abre una fase de recopilación de información, análisis de sistemas y revisión de cumplimiento. Ofcom ha indicado que X podrá responder a los hallazgos preliminares antes de una decisión final. Para el sector, el mensaje es más amplio: el regulador británico quiere comprobar, con un caso visible, si las grandes plataformas están aplicando controles “de verdad” —no solo promesas— frente a los usos más dañinos de la IA.
Lectura de mercado: regulación como riesgo operacional
Más allá del impacto reputacional, la investigación introduce un riesgo operacional tangible. Si los reguladores exigen cambios técnicos relevantes (filtros, límites de funcionalidades, verificación de edad robusta o moderación reforzada), el coste de cumplimiento puede aumentar y alterar la estrategia de producto. El resultado práctico es que la regulación pasa de ser un titular a convertirse en una variable que condiciona decisiones comerciales, despliegues y crecimiento.
