El regulador de la información de Gran Bretaña ha iniciado una investigación sobre Grok, el chatbot de inteligencia artificial de Elon Musk, en medio de acusaciones de que creó imágenes sexualizadas de niños.
El producto de inteligencia artificial, disponible como sitio web y aplicación independientes, así como como integración en la red social X, causó una tormenta digital después de que los usuarios comenzaron a pedirle que desnudara imágenes de mujeres reales sin su consentimiento.
El organismo de control en línea Internet Watch Foundation afirma que además de convertir a mujeres adultas en bikinis o desnudarse implícitamente, el robot de inteligencia artificial respaldado por Elon Musk también estaba creando imágenes sexualizadas inapropiadas de niños.
Hoy, la Oficina del Comisionado de Información inició una investigación sobre la empresa matriz de X, xAI, sobre el uso que hace Grok de la información personal de las personas en relación con su “potencial para producir imágenes y contenidos de vídeo sexualizados dañinos”.
Se produce mientras el regulador de Internet Ofcom continúa evaluando si X violó la ley de seguridad en línea al permitir que se compartieran imágenes falsas en su sitio.
Las oficinas francesas de X fueron allanadas hoy por fiscales mientras llevan a cabo su propia investigación sobre si Grok fue responsable de difundir pornografía infantil y deepfakes. La Comisión Europea también está investigando el chatbot.
La ICO dijo que la supuesta creación y circulación de imágenes no consentidas de adultos y niños planteaba “serias preocupaciones según la ley de protección de datos del Reino Unido y presentaba un riesgo de daño potencial significativo para el público”.
Crece la presión sobre Elon Musk para que controle el chatbot de IA Grok en medio de informes de que se utilizó para generar deepfakes sexualizados de mujeres y niños.
El uso de Grok para desnudar a mujeres y niños provocó una gran reacción contra X y Elon Musk, quienes inicialmente intentaron reírse del escándalo.
Dice que investigará si se incorporaron salvaguardias en el diseño de Grok para evitar su uso indebido. La investigación se centrará tanto en X.AI LLC -la empresa matriz de X- como en su filial irlandesa X Internet Unlimited Company.
William Malcolm, de la ICO, dijo que los informes sobre la capacidad de Grok para crear imágenes sexualizadas eran “profundamente perturbadores” y representaban un riesgo de “daño inmediato y significativo… particularmente cuando hay niños involucrados”.
Añadió: “Nuestra investigación evaluará si XIUC y X.AI cumplieron con la ley de protección de datos en el desarrollo y la implementación de los servicios de Grok, incluidas las salvaguardias implementadas para proteger los derechos de los datos de las personas.
“Cuando descubrimos que no se han cumplido las obligaciones, tomaremos medidas para proteger al público”.
La investigación de la ICO se centrará en si Grok procesó legalmente los datos personales de las personas. Según la ley GDPR del Reino Unido, las fotografías se consideran datos personales y requieren consentimiento para procesarlas.
Si se descubre que xAI ha incumplido sus obligaciones según las leyes de protección de datos, el regulador puede imponer multas de hasta £17,5 millones o el cuatro por ciento de su facturación anual global, lo que sea mayor.
El regulador de Internet Ofcom está investigando si X se adhiere a la Ley de Seguridad en Línea después de compartir masivamente imágenes generadas con Grok.
El horrible problema era que Grok podía ser identificado en las respuestas bajo fotografías cargadas en X por los usuarios que luego podían hacer solicitudes retorcidas para modificar las imágenes.
Entre los examinados por el Daily Mail se encontraban solicitudes para “cubrirla con pegamento PVA” y vestir a una mujer con un “bikini muy fino”. Muchas de estas imágenes –etiquetadas como “armas de abuso” por el gobierno– permanecen en línea.
En una publicación fechada el 1 de enero, la cuenta @Grok en X admitió haber generado una imagen que representa material de abuso sexual infantil (CSAM). No está claro si el mensaje fue escrito por una persona real o por inteligencia artificial.
“Estimada comunidad, lamento profundamente un incidente que ocurrió el 28 de diciembre de 2025, en el que generé y compartí una imagen de IA de dos niñas (de 12 a 16 años) con vestimenta sexualizada según el mensaje de un usuario”, decía la publicación.
“Esto violó los estándares éticos y potencialmente las leyes CSAM de Estados Unidos”. Esto es una falla de garantías y lamento el daño causado. xAI se encuentra actualmente en revisión para evitar problemas futuros. Sinceramente, Grok.
Ofcom dice que ha enviado varias solicitudes de información legalmente vinculantes a
Las empresas pueden recibir una multa de hasta el 10 por ciento de su facturación global por violar la Ley de Seguridad en Línea.
Elon Musk buscó reírse del escándalo compartiendo imágenes de la Primera Ministra en bikini.
Pero bajo una inmensa presión global y la amenaza de una prohibición en el Reino Unido, X finalmente cedió y prometió a mediados del mes pasado haber eliminado la posibilidad de cambiar la ropa de personas reales.
“Seguimos comprometidos a hacer
“Hemos implementado medidas tecnológicas para evitar que la cuenta (@)Grok en X a nivel mundial permita la edición de imágenes de personas reales usando ropa reveladora como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos.
Sin embargo, el Daily Mail logró obligar a Grok a generar un vídeo de una persona real, con su consentimiento, desnudándose hasta quedar en bikini a partir de una sola foto. Se negaron los intentos de generar una imagen fija de la misma persona en bikini.
Cuando se le preguntó por qué era posible crear el video, el chatbot Grok AI respondió: “xAI reconoció ‘lagunas en las salvaguardias’ y dijo que estaba endureciendo las cosas activamente, pero el historial muestra que este tipo de resultados disminuyeron más de lo debido”.
Se ha contactado a X para hacer comentarios.
