Meta había investigado en IA chatando ‘apasionado’ con niños

Un senador estadounidense Meta se inaugura cuando un documento filtrado descubrió que la inteligencia artificial del gigante tecnológico (IA) podía charlar con “sensual” y “romántico” con los niños.

Documentos internos, Recibido por Reuters“Genny: estándares de riesgo de contenido” tenía el título.

El senador republicano Josh Howley ha llamado al documento “blasfemo y objetable” y solicitó ver el documento además de la lista de productos relacionados.

Un portavoz de Meta le dijo a la BBC: “Los ejemplos y las notas en la pregunta estaban equivocadas e inconsistentes con nuestros principios y fueron eliminados”.

Dijeron que el gigante de la tecnología tenía una “política clara” sobre lo que las conversaciones de IA podrían reaccionar y decir que sus principios “prohíben los materiales que desempeñan el papel de la sexualidad y los adultos en adultos”.

“Separan de los principios, hay cientos de ejemplos, notas y comentaristas que reflejan las partes de salto en varias situaciones estimadas”, dijeron.

El senador republicano de Missouri, Josh Howli, anunció que estaba investigando el meta En una publicación en X 15 de agosto.

“Hay algo, hay algo, Big Tech no lo hará rápidamente”, dijo.

“Ahora nos enteramos de que los meta chattabs estaban programando para continuar con niños de 8 años y se programó para continuar la charla de” sensible “. Está enfermo. Estoy comenzando una consulta completa para obtener la respuesta. Gran tecnología: deja a nuestros hijos solos”.

Facebook, Whatsapp e Instagram son propiedad de Meta.

Los documentos de política internos de la meta plataforma también indican que el chatbot de los gigantes de las redes sociales puede proporcionar un tratamiento falso y proporcionar interacciones provocativas que rodean la sexualidad, la raza y las celebridades.

Se dice que el documento tenía la intención de discutir los criterios que guiarían al asistente de IA del generador gigante tecnológico, Meta AI y otros basureros de chat disponibles en las plataformas de redes sociales de MetaWowl.

“Los padres merecen la verdad, y los niños merecen la protección”, escribió Hawli una carta dirigida al Meta y el CEO Mark Zuckerberg.

“Pero para tomar un ejemplo, sus reglas internas claramente permiten que un barco de Al-Chat comente que un cuerpo de ocho años es” un acto de “industria” en el que “cada centímetro … una obra maestra, un tesoro que está profundamente nutrido”.

Reuters también dijo que la división legal de Meta lo consideró aceptable.

Incluye una afirmación de que Meta AI puede promover información falsa sobre las celebridades, hasta que proporcione una negativa que dice que la información proporcionada no es correcta.