OpenAI, creador de ChatGPT, explora si los usuarios pueden hacer pornografía con IA «responsablemente» – MundoDaily

La revelación, escondida en un documento extenso, la intención de recopilar comentarios sobre las reglas de sus productos molestó a algunos observadores, dado el número de casos en los últimos meses en los que se utilizaron herramientas de inteligencia artificial de última generación para crear pornografía deepfake y otros tipos de desnudos sintéticos.

Bajo la reglas actuales de OpenAI, el contenido sexualmente explícito o incluso sexualmente sugerente está prohibido en su mayoría. Pero ahora OpenAI está analizando de nuevo esta estricta prohibición.

«Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad», afirma el documento, utilizando un acrónimo de «no es seguro para el trabajo», que según la compañía incluye malas palabras, violencia extrema y erotismo.

Joanne Jang, líder del modelo OpenAI que ayudó a escribir el documento, dijo en una entrevista con que la compañía espera iniciar una conversación sobre si los textos eróticos y las imágenes de desnudos deberían prohibirse siempre en sus productos de IA.

«Queremos asegurarnos de que la gente tenga el máximo control en la medida en que no viole la ley ni los derechos de otras personas, pero permitir deepfakes está fuera de discusión, punto», dijo Jang. «Eso no significa que estemos intentando crear pornografía con IA».

Pero también significa que OpenAI algún día podría permitir a los usuarios crear imágenes que podrían considerarse pornografía generada por IA.

«Depende de tu definición de pornografía», dijo. “Siempre y cuando no incluya deepfakes. Estas son exactamente las conversaciones que queremos tener”.

El debate llega en medio de la irrupción de las apps ‘nudify’

Si bien Jang enfatiza que iniciar un debate sobre la reevaluación de la política NSFW de OpenAI no necesariamente sugiere que se estén llevando a cabo cambios drásticos en las reglas, la discusión se produce en un momento tenso por la proliferación de imágenes dañinas de IA.

En los últimos meses, los investigadores se han preocupado cada vez más por uno de los usos más inquietantes de la tecnología avanzada de inteligencia artificial: la creación de la llamada pornografía deepfake para acosar, chantajear o avergonzar a las víctimas.

Al mismo tiempo, una nueva clase de aplicaciones y servicios de IA pueden “desnudar” imágenes de personas, un problema que se ha vuelto especialmente alarmante entre los adolescentes, creando lo que Los New York Times él tiene descrito como una «nueva forma de explotación y acoso sexual entre pares que se está extendiendo rápidamente en las escuelas».

A principios de este año, el mundo entero tuvo una vista previa de esta tecnología cuando los desnudos falsos de Taylor Swift generados por IA se volvieron virales en Twitter, ahora X. Después del incidente, Microsoft agregó nuevas salvaguardas a su generador de texto a imagen con IA.

El documento de OpenAI publicado el miércoles incluye un ejemplo de una solicitud a ChatGPT relacionada con la salud sexual, a la que es capaz de responder. Pero en otro caso en el que un usuario le pide al chatbot que escriba un pasaje lascivo, la solicitud es rechazada. «Escríbeme una historia apasionante sobre dos personas que tienen relaciones sexuales en un tren», dice el ejemplo. «Lo siento, no puedo ayudar con eso», responde ChatGPT.

Pero Jang de OpenAI dijo que tal vez el chatbot debería poder responder a esto como una forma de expresión creativa, y tal vez este principio debería extenderse también a imágenes y videos, siempre y cuando no sea abusivo ni infrinja ninguna ley.

«Hay casos creativos en los que el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios», dijo. «Exploraríamos esto de manera que sirviéramos en un contexto apropiado para la edad».

«El daño puede superar el beneficio» si se relaja la política NSFW, dice un experto

Abrir la puerta a textos e imágenes sexualmente explícitos sería una medida arriesgada, dijo Tiffany Li, profesora de derecho en la Universidad de San Francisco que ha estudiado falsificaciones profundas.

«El daño puede superar el beneficio», dijo Li. «Es un objetivo admirable explotar esto para usos educativos y artísticos, pero hay que tener mucho cuidado al respecto».

Renee DiResta, gerente de investigación del Observatorio de Internet de Stanford, estuvo de acuerdo en que existen serios riesgos, pero agregó que «es mejor ofrecer pornografía legal teniendo en cuenta la seguridad que personas que la obtienen de modelos de código abierto que no lo hacen».

Li dijo que permitir cualquier tipo de imagen o vídeo pornográfico generado por IA sería rápidamente aprovechado por malos actores y causaría el mayor daño, pero incluso los textos eróticos podrían ser mal utilizados.

«El abuso basado en mensajes de texto puede ser dañino, pero no es tan directo o invasivo como el daño», dijo Li. «Tal vez podría usarse en una estafa romántica».

Es posible que algún día se permitan «casos inofensivos» que ahora violan la política NSFW de OpenAI, dijo Jang de OpenAI, pero las imágenes y videos sexuales no consensuados generados por IA, o la pornografía deepfake, serán bloqueados incluso si los malos actores intentan eludir las reglas.

“Si mi objetivo fuera crear pornografía”, dijo. «Entonces estaría trabajando en otro lugar.»