X da marcha atrás con Grok y elimina la creación de imágenes con contenido sexual

La medida afecta a todos los usuarios, incluidos los suscriptores de pago, y responde a la polémica por la creación de fotografías de personas con ropa interior o bikinis, incluidas menores de edad.

En un comunicado publicado en la propia plataforma, explicó que la decisión forma parte de su compromiso de crear un espacio seguro y mantener tolerancia cero ante cualquier forma de explotación sexual de menores, desnudos no consentidos y contenido sexual no deseado.

“Hemos implementado medidas tecnológicas para evitar que Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, indicó la compañía. La restricción se aplica a nivel global, y también geográficamente en las jurisdicciones donde sea ilegal.

Ampliación de la limitación a todos los usuarios

El pasado 9 de enero, X ya había limitado la función de generación de imágenes a usuarios con suscripción. Ahora, la restricción afecta a todos los usuarios, impidiendo crear fotografías o ilustraciones con ropa interior o bikinis a través de Grok.

La decisión llega tras una serie de presiones y denuncias. La Unión Europea ha solicitado conservar documentación sobre la generación de imágenes hasta finales de año, mientras que Reino Unido amenazó con bloquear la red social y Malasia e Indonesia prohibieron el uso de Grok.

Organizaciones de derechos digitales, seguridad infantil y derechos de las mujeres han pedido a Apple y Google que tomen medidas para “prohibir Grok” en sus tiendas de aplicaciones, alertando sobre el uso de la IA para crear material íntimo no consentido, incluido contenido sexual infantil, que constituye un delito penal.