El gobierno acusado de demorarse en la ley de deepfake sobre Grok AI

Los activistas han acusado al gobierno de demorarse en implementar una ley que haría ilegal la creación de deepfakes sexualizados y no consensuados.

Se produce en medio de una reacción violenta contra las imágenes creadas utilizando la IA Grok de Elon Musk para quitarse la ropa digitalmente; una mujer le dijo a la BBC que se habían creado más de 100 imágenes sexualizadas de ella.

Actualmente es Es ilegal compartir deepfakes de adultos en el Reino Unido.pero la nueva legislación que penalizaría su creación o solicitud aún no está en vigor a pesar de muerte en junio de 2025.

Pero no está claro si todas las imágenes de desnudamiento que creó Grok violarían esa ley. La BBC se ha puesto en contacto con el gobierno para solicitar comentarios.

en una declaraciónX a declarado : « Quiconque utiliza ou incite Grok à créer du contenu illégal subira les mêmes conséquences que s’il telechargeait du contenu illégal. »

“Estamos tomando medidas contra el contenido ilegal en

Se puede acceder a Grok a través de su sitio web y su aplicación, o etiquetando “@grok” en publicaciones en la plataforma de redes sociales X.

Pero Andrea Simon, de End Violence Against Women, dijo que al no hacer cumplir la ley, el gobierno había “puesto en riesgo a mujeres y niñas”.

“Los deepfakes sexualmente explícitos y no consensuados constituyen una flagrante violación de los derechos de las mujeres y tienen un impacto traumático y duradero en las víctimas”, afirmó.

“Para las mujeres que usan plataformas como

“Esto no es sólo una cuestión de justicia penal, sino también una cuestión de regular un ecosistema tecnológico que facilita y se beneficia de la violencia contra las mujeres y las niñas”.

MartesLa secretaria de Tecnología, Liz Kendall, pidió a X que “abordara esto con urgencia” y calificó la situación de “absolutamente espantosa”.

El regulador Ofcom dijo que había hecho “contacto urgente” con X y xAI, que construyeron Grok. Lunes y le dijo a la BBC que estaba investigando sus preocupaciones.

Tanto Kendall como Downing Street apoyaron la acción del regulador, y el portavoz del Primer Ministro añadió el miércoles que “todas las opciones seguían sobre la mesa”.

El Ministerio de Justicia dijo a la BBC: “Compartir imágenes íntimas en las redes sociales, incluidas las deepfakes, sin consentimiento ya es un delito.

“Nos negamos a tolerar este comportamiento degradante y dañino, por lo que también hemos introducido legislación que prohíbe su creación sin consentimiento”.

La ley actual establece que es ilegal generar deepfakes pornográficos cuando se utilizan para pornografía de venganza o para representar a niños.

Una disposición de la Ley de Datos (Uso y Acceso) de 2025 penaliza la creación o el encargo de “supuestas imágenes íntimas”, o deepfakes, dijo a la BBC Lorna Woods, profesora de derecho de Internet en la Universidad de Essex.

Pero un año después de anunciar por primera vez una ofensiva contra este delitoEl gobierno aún no ha aprobado una disposición legal clave que pueda atacar a quienes le piden a Grok que haga falsificaciones sexualizadas de mujeres y niñas, dijeron expertos y activistas a la BBC.

El profesor Woods dijo que este delito “parece encajar bien con algunas de las imágenes creadas con Grok”, pero aún no ha entrado en vigor.

Mientras tanto, Simon de EVAW cuestionó por qué la legislación secundaria necesaria para convertir la creación de deepfakes sexuales en un delito aún no se había producido, dado que era una “violación flagrante de los derechos de las mujeres”.

“Esta ley aún no ha entrado en vigor”, dijo, “y no se ha fijado ninguna fecha para su entrada en vigor”.

Baronesa Owen, par conservadora, quien hizo campaña por un cambio legal en la Cámara de los Loresdijo a la BBC que el gobierno había “repetidamente tardado” en poner las reglas en vigor.

“No podemos permitirnos más retrasos”, afirmó.

“Los supervivientes de este abuso merecen algo mejor.

“Nadie debería tener que vivir con el temor de que su consentimiento sea violado de esta manera atroz”.

Y la baronesa Beeban Kidron, miembro de alto rango, dijo a la BBC: “La tecnología está cambiando rápidamente y esta legislación pretende llenar un vacío existente, por lo que no hay excusa para retrasarse”.

La BBC tiene habló con varias mujeres que vieron fotos de ellos mismos publicadas en X transformadas en deepfakes por la IA de Grok.

Grok es una herramienta gratuita que los usuarios suelen marcar debajo de los comentarios de otras personas con indicaciones para dar su opinión o contexto.

Más recientemente, las personas han podido usar el chatbot para editar fotos que ellos u otras personas han subido etiquetándolas e incluyendo un mensaje de texto, incluso si eso implica quitarles la ropa o ponerlas en poses sexualizadas.

Evie le dijo a la BBC que al notar que la gente comenzaba a responder a las fotos de ella pidiéndole a Grok que la pusiera en bikini hace unos meses, la última actualización lo hizo “más fácil” para los usuarios y las imágenes parecían “más realistas”.

Ella dice que ahora ha creado al menos 100 imágenes sexualizadas de ella misma usando el asistente de inteligencia artificial, hasta el punto de que ha renunciado a denunciarlas todas debido a la “tensión mental” que implica verlas.

Además de tener que ver las imágenes ella misma, la idea de que personas cercanas a ella la vieran en poses sexuales o desnuda también le hacía muy difícil permanecer bajo X.

“Mi familia me sigue allí, mis amigos, mis colegas”, dijo.

“Saber que todos los que importan en mi vida pueden verme así… es asqueroso”.

La Dra. Daisy Dixon es otra usuaria de X que le dijo a la BBC que había visto un aumento en el número de personas que usaban Grok para desnudarla, particularmente usando su foto de perfil.

Dijo que las imágenes la dejaron “humillada” y que Grok, al comentarle automáticamente sobre las imágenes editadas, la hizo sentir como si hubiera sido atacada.

“Tener ese poder para reflejarlo es como decir ‘Tengo control sobre ti y voy a seguir recordándote que tengo control sobre ti'”, dijo.

“No queremos diluir el concepto, pero se siente como una especie de asalto al cuerpo”.

Y los usuarios de X como Evie dicen que debemos actuar ahora.

“Hay tantos lugares en línea donde puedes hacer esto, pero el hecho de que esto esté sucediendo en Twitter con el robot de inteligencia artificial incorporado es una locura, esto está permitido”, dijo.

“¿Por qué se permite esto y por qué no se hace nada al respecto?”