Grok restringe la edición de imágenes a usuarios de pago tras la controversia por desnudos
La plataforma X, del multimillonario Elon Musk, ha limitado a los usuarios de pago el uso de su herramienta de inteligencia artificial Grok para editar imágenes después de varios días de denuncias. Estas quejas surgieron debido a que la herramienta permitía a los usuarios solicitar alteraciones de imágenes de otras personas, incluso desnudarlas sin consentimiento.
Este cambio implica que el nombre y la información de pago del usuario quedarán asociados a cualquier imagen alterada, independientemente de su tipo.
“Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, ha afirmado Musk en su cuenta en X.
Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content
Grok es una herramienta que, hasta ahora, permitía a los usuarios subir y editar fotos y había sido utilizada para modificar imágenes de mujeres, mostrándolas en bikini o sin ropa, lo que desató un fuerte número de denuncias y quejas.
Denuncias en la red
Desde el pasado viernes, Grok informa a los usuarios que solicitan la modificación de imágenes en X que “la generación y edición de imágenes están limitadas a los suscriptores de pago” y que solo quienes paguen podrán acceder a las funciones de edición bajo su propia responsabilidad.
La profesora de Filosofía de la Universidad británica de Cardiff, Daisy Dixon, una de las denunciantes que afirmó haber sido víctima de este tipo de abusos en la red X, ha reaccionado al anuncio, calificando el cambio como “un parche”.
Grok has apparently turned off its image generation. This will mean at least a pause of these offences which is good, but I’m worried it’s a panicked sticking plaster for a deeper problem: unethical AI design and pervasive misogyny …
“Al parecer, Grok ha desactivado su función de generación de imágenes. Esto supondrá una pausa en las ofensas, lo cual es positivo, pero me preocupa que se trate de un parche improvisado para ocultar un problema más grave: el diseño de una herramienta de inteligencia artificial poco ética y difusora de la misoginia”, indica Dixon en su publicación matutina.
“El problema de la IA es un problema humano: hay que rediseñar Grok e implementar sus límites éticos. Pero Elon Musk debe reconocerlo, estamos ante otra violación por motivos de género”, añade la filósofa, quien en ocasiones anteriores ha señalado que más del 95% de los abusos sexuales con imágenes no consentidas en esta red están dirigidos contra mujeres.
Críticas oficiales
Numerosos gobiernos de todo el mundo, especialmente en Europa, han calificado de “repugnante” la generación de imágenes sexualizadas de niños y mujeres mediante Grok en los últimos días, anunciando medidas y posibles sanciones.
En el caso de España, la ministra de Juventud e Infancia, Sira Riego, ha solicitado esta semana a la Fiscalía General del Estado que investigue a X y su herramienta de IA por presuntos “delitos de difusión de material de violencia sexual contra la infancia”.
