La policía alemana ha emitido una advertencia sobre una estafa en línea que involucra a agentes de policía generada por inteligencia artificial.
La policía de Hamburgo dijo que había habido un aumento en el número de perfiles de redes sociales que mostraban falsificaciones de mujeres atractivas vestidas con uniformes de policía.
Según la policía, estas cuentas se utilizaron para atraer a los hombres en las redes sociales a hacer clic en sitios web pagos para ver imágenes más realistas de mujeres policías generadas por IA.
“Estamos recibiendo cada vez más informes sobre perfiles de redes sociales supuestamente generados por IA que representan a colegas femeninas de la policía de Hamburgo”, dijo la policía en un comunicado.
El portavoz de la policía, Florian Abbenth, añadió: “Estos perfiles dañan la reputación de la policía, por eso estamos tomando medidas decisivas contra ellos”.
Las impresionantes imágenes generadas por IA muestran a mujeres jóvenes y atractivas posando con uniformes de policía ajustados.
En una foto, una mujer rubia parece tener la chaqueta cerrada, dejando al descubierto algo de escote.
Otra imagen muestra a un policía generado por IA arrodillado en el suelo y posando para una selfie en el espejo.
La policía alemana emite una advertencia sobre una estafa en línea que involucra a mujeres policías generadas por inteligencia artificial
La imagen muestra una imagen generada por IA de una mujer cargando a un oficial de policía alemán.
La policía de Hamburgo dijo que las cuentas se utilizaron para engañar a los usuarios de las redes sociales para que hicieran clic en sitios web pagos para ver imágenes de mujeres policías más realistas generadas por IA.
La policía de Hamburgo dijo que no opera ninguna cuenta privada de Instagram para sus agentes y anunció que ya se estaban considerando acciones legales contra el contenido de IA.
La policía también instó a los usuarios de Instagram a denunciar perfiles falsos en las redes sociales.
El uso de deepfakes, como imágenes y vídeos generados por IA que se hacen pasar de manera convincente por personas reales, plantea riesgos cada vez mayores para las empresas y organizaciones en los últimos años.
A principios de este año, la Unión Internacional de Telecomunicaciones de las Naciones Unidas instó a las empresas a utilizar herramientas avanzadas para detectar y eliminar la desinformación y el contenido deepfake para combatir el fraude financiero.
La UIT pidió estándares sólidos para combatir la manipulación de los medios y recomendó que los distribuidores de contenido, como las plataformas de redes sociales, utilicen herramientas de verificación digital para autenticar imágenes y videos antes de compartirlos.
“La confianza en las redes sociales ha disminuido significativamente porque la gente no sabe qué es verdad y qué es falso”, señaló Bilel Jamoussi, jefe del departamento de grupos de estudio de la Oficina de Normalización de la UIT.
La policía de Hamburgo condenó el uso de imágenes generadas por IA y amenazó con emprender acciones legales.
La policía instó a los usuarios de Instagram a denunciar el perfil falso de la red social
El uso de deepfakes presenta riesgos cada vez mayores para las empresas y organizaciones en los últimos años.
Combatir los deepfakes plantea un gran desafío debido a la capacidad de la IA generativa para crear multimedia realista, dijo.
Leonard Rosenthol de Adobe, líder en software de publicación digital que ha estado abordando los deepfakes desde 2019, destacó la importancia de establecer la procedencia del contenido digital para ayudar a los usuarios a evaluar su confiabilidad.
“Necesitamos más lugares donde la gente consuma su contenido para mostrar esta información… Cuando te desplazas por tus feeds, quieres saber: ‘¿Puedo confiar en esta imagen, este vídeo…'”, dijo Rosenthol.
