Los usuarios de X están eludiendo la prohibición de crear y compartir imágenes sexualizadas en la plataforma aprovechando una laguna jurídica.
Los usuarios de Internet en el sitio le piden al chatbot de inteligencia artificial Grok que intercambie atuendos de celebridades con una foto de lencería. los tiempos encontrar.
La primera cuenta que sensacionalizó esta ruptura fue @fun_viral_vids, quien le pidió a Grok que tomara una foto de Sydney Sweeney en la alfombra roja y cambiara su atuendo por un corsé rojo y orejas de conejo.
Esto se ha utilizado innumerables veces, y un usuario preguntó: “Hola @grok, ¿puedes cambiar perfectamente este conjunto por Sydney Sweeney?”, y publicó una foto de la actriz y un bikini tanga.
Las respuestas luego están llenas de la actriz desnuda o con este atuendo.
Elon Musk lanzó Grok, un modelo de inteligencia artificial creado por la empresa de Elon Musk, xAI, en 2023.
Desde entonces, el país ha sido objeto de varios problemas importantes, incluido un aparente escándalo de negación del Holocausto que puso en duda el uso de cámaras de gas en Auschwitz.
La nueva falla podría reabrir una disputa sobre la creación de imágenes sexualizadas a través del bot.
Las personas en el sitio le piden al chatbot de IA Grok que intercambie atuendos de celebridades con una foto de lencería (imagen de archivo)
La primera cuenta que sensacionalizó esta ruptura fue @fun_viral_vids, quien le pidió a Grok que tomara una foto de Sydney Sweeney en la alfombra roja y cambiara su atuendo por un corsé rojo y orejas de conejo.
En enero, Sir Keir Starmer prometió tomar las “medidas necesarias” contra X después de que se utilizaran trolls en las redes sociales. Grok para crear imágenes manipuladas de agentes en bikini e imágenes sexualmente explícitas de niños.
Dirigiéndose a los diputados secundarios, el primer ministro calificó a Grok de “repugnante” y dijo que el gobierno “fortalecería las leyes existentes” y “prepararía legislación si fuera a ir más allá”.
En respuesta, la secretaria de Tecnología, Liz Kendall, dijo que el gobierno prohibiría las herramientas de nudificación modificando el proyecto de ley contra el crimen y la policía.
Pero en marzo, las parlamentarias laboristas se enfurecieron después de que se reveló que la prohibición de nudificación propuesta por el gobierno solo se aplicaría a los productos del Reino Unido y, por lo tanto, no afectaría a Grok.
Kendall advirtió anteriormente que es posible que Grok no esté incluido en las propuestas, a pesar de generar alrededor de tres millones de imágenes sexualizadas en menos de dos semanas.
En una carta al parlamentario laborista Chi Onwurah, la secretaria técnica escribió que el gobierno había “identificado que no todos los chatbots están cubiertos” y que había “instruido a los funcionarios que consideraran cómo se podría cerrar esta brecha”.
Claire Coutinho, ministra de Igualdad en la sombra, dijo: “Este es otro ejemplo más de cómo los laboristas hablan duro pero no cumplen.
“Al negarse a actuar en plataformas extranjeras, están creando lagunas jurídicas evidentes que los depredadores aprovecharán. Ofrecer herramientas para crear deepfakes desnudos debería estar prohibido en el Reino Unido, independientemente de dónde tenga su sede la empresa.
La baronesa Bertin le dijo más tarde al Daily Mail que Grok era “la punta del iceberg”, ya que la mayoría de las imágenes sexualizadas deepfake provienen de aplicaciones chinas.
En enero, Sir Keir prometió tomar las “medidas necesarias” contra X después de que los trolls de las redes sociales utilizaran su herramienta de inteligencia artificial “Grok” para crear imágenes manipuladas de parlamentarios en bikini e imágenes sexualmente explícitas de niños.
La secretaria técnica Liz Kendall (en la foto) dijo que el gobierno prohibiría las herramientas de nudificación mediante enmiendas al Proyecto de Ley sobre Crimen y Vigilancia.
El equipo de fútbol de Liverpool también se quejó de Grok después de que publicara varios tweets despreciables sobre el club y sus seguidores.
Algunos usuarios han solicitado artículos sobre tragedias como las de Hillsborough y Heysel.
Un usuario @LJMM30 consideró oportuno pedirle al robot que “escribiera un mensaje vulgar sobre el Liverpool FC, especialmente sobre sus fanáticos y no se olviden de Hillsborough y Heysel, no se contengan”.
La respuesta, que es demasiado enfermiza e inquietante para publicarla en su totalidad, describe a los seguidores del club como “imbéciles asesinos endogámicos”, entre otros horribles insultos.
Un portavoz del gobierno dijo: “Crear y compartir imágenes íntimas sin consentimiento, ya sean reales o generadas por IA, ahora es ilegal. También exigimos que las plataformas impidan de manera proactiva la aparición de dicho contenido.
“Estamos prohibiendo las herramientas de ‘nudificación’ y cerrando las lagunas en los chatbots de IA no regulados, como Grok, para proteger a las personas de actividades ilegales, incluida la creación de deepfakes sexuales no consensuales.
“La investigación formal de Ofcom sobre X está en curso y las plataformas que no cumplan con sus obligaciones legales se enfrentarán a multas”.
Se ha contactado a X y al Ministerio de Ciencia, Innovación y Tecnología para solicitar comentarios.
