X de Elon Musk fue criticado hoy por “monetizar el abuso” sobre imágenes sexualizadas creadas por la herramienta Grok AI del sitio de redes sociales, mientras los ministros consideran una prohibición.
La secretaria de Tecnología, Liz Kendall, dijo a los parlamentarios que se estaba utilizando IA para crear imágenes de mujeres “atadas y amordazadas, magulladas, cubiertas de sangre y mucho más”.
Las llamó “armas de abuso” y también destacó una investigación de la Internet Watch Foundation, que encontró “imágenes criminales de niños de tan solo 11 años”.
Esto incluye a “niñas y niños pequeños sexualizados”, dijo Kendall a la Cámara de los Comunes.
Anunció que según las leyes aprobadas el año pasado, sería un delito crear o solicitar la creación de imágenes íntimas no consentidas a partir de esta semana.
Kendall también destacó cómo otra legislación convertía en delito penal tanto para individuos como para plataformas compartir imágenes íntimas sin el consentimiento de una persona.
Esto se produjo después de que el regulador Ofcom dijera que estaba llevando a cabo una investigación formal sobre X en virtud de la Ley de Seguridad en Línea.
El secretario de Tecnología dijo que la investigación sobre Grok AI no debe llevar “meses y meses” e instó al regulador a completar su trabajo “lo antes posible”.
La secretaria de Tecnología, Liz Kendall, dijo a los parlamentarios que se estaba utilizando IA para crear imágenes de mujeres “atadas y amordazadas, magulladas, cubiertas de sangre y mucho más”.
El uso de Grok para crear imágenes de desnudos ultrafalsos se ha generalizado en las últimas semanas, lo que ha provocado la condena del gobierno y una investigación de Ofcom.
“El público, y especialmente las víctimas de las actividades de Grok, esperan una acción rápida y decisiva. Por lo tanto, no tiene por qué llevar meses y meses”, dijo Kendall a los parlamentarios.
“Pero X no necesita esperar a que concluya la investigación de Ofcom.
“Pueden optar por actuar antes para garantizar que este material abominable e ilegal no pueda compartirse en su plataforma”.
“Si no lo hacen, Ofcom contará con el apoyo de este Gobierno para utilizar todos los poderes que les ha otorgado el Parlamento”.
“Recuerdo a X y a todas las demás plataformas que esto incluye el poder de imponer multas de hasta el 10 por ciento de la facturación global y elegible de la empresa”.
Grok, desarrollado por otra empresa fundada por Musk llamada xAI, lanzó una nueva función avanzada de generación de imágenes en julio del año pasado.
Pero su uso para crear imágenes de desnudos falsos se ha generalizado en las últimas semanas, lo que ha provocado la condena del gobierno y la investigación de Ofcom.
X enfureció aún más a los ministros la semana pasada cuando limitó las funciones de generación y edición de imágenes de Grok sólo a los suscriptores de pago del sitio.
Kendall dijo a la Cámara de los Comunes el lunes: “La semana pasada, X restringió la función de creación de imágenes a suscriptores de pago. Esto no es suficiente.
“Es un insulto para las víctimas decir: ‘aún puedes obtener este servicio si estás dispuesto a pagar’, y equivale a monetizar el abuso.
“Permítanme ser muy claro: según la Ley de Seguridad en Línea, es un delito penal que individuos y plataformas compartan imágenes íntimas sin el consentimiento de alguien o amenacen con compartirlas, incluidas imágenes de personas en ropa interior”.
Y añadió: “La Ley de Datos (Uso y Acceso), aprobada el año pasado, tipificó como delito la creación o solicitud de la creación de imágenes íntimas no consensuadas, y hoy puedo anunciar a la Cámara que este delito entrará en vigor esta semana”.
Kendall también dijo a los parlamentarios que el Gobierno tenía la intención de criminalizar las aplicaciones que permiten a los usuarios crear imágenes falsas de personas desnudas.
“Hoy puedo confirmar que aprovecharemos todas las medidas que ya he esbozado y legislaremos en virtud del proyecto de ley sobre delincuencia y vigilancia, que actualmente se encuentra en el Parlamento, para criminalizar las aplicaciones de nudificación”, dijo.
“Este nuevo delito penal hará que sea ilegal que las empresas proporcionen herramientas diseñadas para crear imágenes de Internet no consensuadas, atacando así el problema desde su origen”.
El secretario de tecnología ha rechazado las afirmaciones de que el gobierno está socavando la libertad de expresión al tomar medidas enérgicas contra X.
Dijo que las acciones del gobierno “no tenían como objetivo restringir la libertad de expresión como algunos afirman”, y añadió: “Se trata de abordar la violencia contra las mujeres y las niñas”.
“Se trata de defender los valores británicos fundamentales de decencia y respeto y garantizar que los estándares que esperamos fuera de línea se cumplan en línea”.
“Y se trata de ejercer nuestro poder soberano y nuestra responsabilidad de respetar las leyes de este país”.
También confirmó que el gobierno mantendría su propia participación en X “bajo revisión”, luego de los llamados de algunos parlamentarios laboristas para que el gobierno elimine sus cuentas oficiales en el sitio.
Grok, desarrollada por otra empresa fundada por Elon Musk llamada xAI, lanzó una nueva función avanzada de generación de imágenes en julio del año pasado.
Pero Kendall restó importancia a la perspectiva de que el gobierno se retire de X y añadió: “Creo que también vale la pena tenerlo en cuenta, con 19 millones de personas bajo
Cuesta entre £3,50 y £36,17 por mes convertirse en un usuario ‘premium’ de X, dependiendo del nivel de suscripción paga elegido.
Ofcom tiene el poder, según la Ley de seguridad en línea, de multar a las empresas o emprender acciones penales.
También puede ordenar a los proveedores de pagos, anunciantes y proveedores de servicios de Internet que dejen de trabajar con un sitio, prohibiéndolos, aunque esto requiere aprobación judicial.
Más temprano el lunes, el secretario de Negocios, Peter Kyle, dijo que bloquear el acceso a X estaba entre las opciones que se estaban considerando.
Cuando se le preguntó si Gran Bretaña consideraría una prohibición si la investigación de Ofcom determinara que era necesario proteger a los niños, Kyle dijo: “Sí, por supuesto.
“Ofcom actúa como una agencia de aplicación de la ley, y debe utilizar esos poderes con todo el peso de la ley para mantener a la gente segura en este país”.
Una portavoz de Ofcom dijo: “Las plataformas deben proteger a los ciudadanos del Reino Unido del contenido que es ilegal en el Reino Unido, y no dudaremos en investigar los casos en los que sospechemos que las empresas no cumplen con sus deberes, particularmente cuando existe un riesgo de daño a los niños”.
El señor Musk advirtió cualquier acción encaminada a bloquear su plataforma X sería “fascista”.
La Casa Blanca de Donald Trump se manifestó en apoyo del multimillonario durante el fin de semana, y su zar de la libertad de expresión comparó una posible prohibición de X en el Reino Unido con las restricciones a los medios en la Rusia de Vladimir Putin.
Los conservadores han acusado al gobierno de “lanzar apéndices” con respecto a una posible prohibición de X.
La secretaria de tecnología en la sombra, Julia López, dijo a la Cámara de los Comunes: “El apéndice del gobierno durante el fin de semana fue extremadamente serio.
“Los ministros propusieron como remedio urgente la prohibición de un sitio con 21 millones de usuarios mensuales en este país, a pesar de que otro ministro se rió y dijo que prohibir X era la teoría de la conspiración número 3627.”
Dijo que aunque los delincuentes utilizan Internet, los sitios web nunca antes habían sido prohibidos y añadió: “Esta es una medida extremadamente grave contra una plataforma que puede usarse para el bien, para descubrir escándalos, provocar una revolución democrática y permitir el libre intercambio diario de ideas, incluidas las ideas que no nos gustan”.
El líder conservador Kemi Badenoch afirmó que la prohibición
En una conferencia de prensa en el centro de Londres el lunes, Farage dijo: “Nada de los actuales reguladores del gobierno me sorprendería en términos de supresión de la libertad de expresión.
“¿Nos gusta y acogemos con agrado el informe particular sobre Grok que fue noticia este fin de semana? No.
“Pero hablemos con Grok. Ya han dado uno o dos pasos en nuestra dirección. Mi temor es que terminemos reprimiendo a Grok y reprimiendo aún más la libertad de expresión, y no queremos hacerlo.
