ChatGPT anuncia un peligroso giro hacia el contenido erótico: fin a las restricciones

OpenAI, la empresa creadora del archiconocido ChatGPT, ha anunciado una modificación significativa en su política de moderación de contenido que permitirá a los usuarios adultos verificados la creación de material erótico a partir de diciembre. Un tipo de contenido que hasta ahora estaba completamente vetado por parte de la empresa de inteligencia artificial.

El cambio ha llegado de la mano de las palabras de su CEO, Sam Altman, que busca alinearse con el principio de otorgar mayor libertad creativa a los adultos. Sin embargo, este paso también ha reavivado las preocupaciones sobre los peligros éticos y sociales de la IA generativa. Especialmente en materia de contenido adulto.

Altman, a través de la plataforma X, declaró que la medida será implementada a medida que se refuercen las restricciones por edad, permitiendo la creación de "erotismo para adultos verificados" como parte de su visión de "tratar a los usuarios adultos como adultos".

La Búsqueda de la "Gran Libertad"

El director ejecutivo de OpenAI justificó el giro explicando que las restricciones anteriores, diseñadas para evitar agravar problemas de salud mental o riesgo de suicidio, hacían que la plataforma fuera "menos disfrutable" para la mayoría de los usuarios.

Altman argumentó que, al encontrar métodos para proteger a los usuarios vulnerables, la compañía puede ahora otorgar "una gran libertad en cómo usan ChatGPT" a los adultos que no están en riesgo de sufrir daños graves.

Los Peligros Ajenos a la Censura

Aunque el anuncio ha sido celebrado por algunos como un avance hacia una IA menos "puritana", la decisión plantea serios desafíos éticos y de seguridad, especialmente en el contexto de la proliferación de contenido explícito generado por IA:

Proliferación de Contenido No Consentido (Deepfakes): La principal preocupación radica en que, al relajar la censura, la herramienta pueda ser utilizada más fácilmente para crear imágenes o textos eróticos (deepfakes) sin el consentimiento de las personas representadas, violando su privacidad y causando daños graves a su reputación.

Contenido Abusivo: Aunque OpenAI asegura que mantendrá la seguridad de la plataforma, el cambio podría abrir la puerta a la generación de contenido que bordee o traspase la línea del acoso, la explotación o el abuso, incluso si las directrices se enfocan en la no-representación de menores.

Normalización y Acceso de Menores: Pese a las "restricciones por edad", los expertos y la experiencia advierten que las tecnologías de verificación de edad no son infalibles, y la normalización de la creación de contenido explícito por IA podría facilitar el acceso de menores a este tipo de material. Razón principal por la que esta opción no se ha habilitado en la actual versión de ChatGPT.

Este giro de timón representa un cambio en la postura anterior de Altman, quien en agosto había afirmado que evitar el desarrollo de un "avatar de bot sexual" era algo "bueno para el mundo". Ahora, la compañía se enfrenta al reto de equilibrar la "libertad adulta" con la necesidad imperativa de evitar que su tecnología sea utilizada como una herramienta para la difusión masiva de contenido dañino e ilegal.