lily jamaliCorresponsal de Tecnología para Norteamérica Y
Liv Mc MahonPeriodista de tecnología de la BBC
ReutersOpenAI planea permitir una gama más amplia de contenido, incluido contenido erótico, en su popular chatbot ChatGPT como parte de su esfuerzo por “tratar a los usuarios adultos como adultos”, dijo su jefe Sam Altman.
En un artículo sobre
La medida, que recuerda a la reciente introducción de dos chatbots sexualmente explícitos por parte de xAI de Elon Musk en Grok, podría ayudar a OpenAI a atraer más suscriptores de pago.
También es probable que aumente la presión sobre los legisladores para que introduzcan restricciones más estrictas a los compañeros de chatbot.
OpenAI no respondió a las solicitudes de comentarios de la BBC tras la publicación de Altman.
Los cambios anunciados por la compañía se producen después de que a principios de este año fuera demandada por los padres de un adolescente estadounidense que se suicidó.
La demanda presentada por Matt y Maria Raine, padres de Adam Raine, de 16 años, fue la primera acción legal que acusa a OpenAI de muerte por negligencia.
La pareja californiana criticó el control parental de la empresa, diseñado para promover un uso más saludable de su chatbot, diciendo que no iba lo suficientemente lejos.
La familia incluyó registros de chat entre Adam, quien murió en abril, y ChatGPT, que lo muestran explicando que tenía pensamientos suicidas.
Altman dijo que OpenAI anteriormente hizo que ChatGPT fuera “lo suficientemente restrictivo como para garantizar que tuviéramos cuidado con los problemas de salud mental”.
“Nos damos cuenta de que esto hizo que el juego fuera menos útil/agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema, queríamos solucionarlo”, dijo Altman.
Dijo que la compañía ahora podía mitigar los riesgos graves para la salud mental y tenía nuevas herramientas que le permitían “aliviar las restricciones de forma segura en la mayoría de los casos”.
“En diciembre, a medida que hagamos cumplir más la restricción de edad y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como contenido erótico para adultos verificados”, dijo.
Los críticos dicen que la decisión de OpenAI de permitir el erotismo en la plataforma muestra la necesidad de una mayor regulación a nivel federal y estatal.
“¿Cómo se asegurarán de que los niños no puedan acceder a las partes para adultos de ChatGPT que contienen contenido erótico?” dijo Jenny Kim, socia del bufete de abogados Boies Schiller Flexner. “La IA abierta, como la mayoría de las grandes tecnologías en este espacio, simplemente utiliza a las personas como conejillos de indias”.
La Sra. Kim está involucrada en una demanda contra Meta que afirma que el algoritmo de Instagram de la compañía daña la salud mental de los usuarios adolescentes.
“Ni siquiera sabemos si la restricción de edad va a funcionar”, afirmó.
En abril, TechCrunch informó que OpenAI permitía cuentas en las que un usuario se registraba como menor de edad para generar erotismo gráfico.
OpenAI dijo en ese momento que la compañía estaba implementando un parche para limitar este tipo de contenido.
A investigación Publicado este mes por el Centro para la Democracia y la Tecnología (CDT), una organización sin fines de lucro, encontró que uno de cada cinco estudiantes universitarios dice que él o alguien que conoce ha tenido una relación romántica con la IA.
El lunes, el gobernador de California, Gavin Newsom, vetó un proyecto de ley aprobado por la legislatura estatal que habría impedido a los desarrolladores ofrecer chatbots de IA a niños a menos que las empresas pudieran garantizar que el software no causaría comportamientos dañinos.
Newsom dijo que era “imperativo que los adolescentes aprendan a interactuar de forma segura con los sistemas de IA” en un contexto mensaje que acompañó su veto.
A nivel federal, la Comisión Federal de Comercio de EE. UU. (FTC) ha iniciado una investigación sobre cómo los chatbots de IA interactúan con los niños.
El mes pasado, el Senado de Estados Unidos presentó una legislación bipartidista que clasificaría los chatbots de IA como una mercancía. La ley permitiría a los usuarios presentar demandas de responsabilidad contra los desarrolladores de chatbots.
El anuncio de Altman el martes se produce cuando los escépticos cuestionan el rápido aumento en el valor de las empresas de tecnología de inteligencia artificial.
Los ingresos de OpenAI están creciendo pero nunca han sido rentables.
