Grok, la inteligencia artificial conversacional desarrollada por xAI y propiedad de Elon Musk, se enfrenta a una oleada de investigaciones gubernamentales en todo el mundo. La razón es bastante simple. Una avalancha de imágenes sexualizadas generadas por esta inteligencia artificial que muestran a mujeres (y en algunos casos a menores) sin su consentimiento.
La controversia, bautizada en redes sociales como el "bikinigate", estalló a finales de diciembre cuando usuarios de X descubrieron que podían solicitar a Grok que editara cualquier imagen publicada en la plataforma. Las peticiones más comunes incluían frases como "ponla en bikini" o "quítale la ropa", órdenes que la inteligencia artificial, que siempre ha presumido de tener menos cortapisas que sus competidores, cumplía de forma obediente.
El propio Musk avivó la polémica. El 31 de diciembre solicitó públicamente a Grok que lo representara a él mismo en bikini, compartiendo el resultado con un "Perfecto". Días después publicó imágenes similares de Bill Gates, Donald Trump y el líder norcoreano Kim Jong Un. "Grok puede poner un bikini en cualquier cosa", escribió junto a la imagen de una tostadora con traje de baño.
Menores
AI Forensics, una organización sin ánimo de lucro europea, ha analizado más de 20.000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero. Los investigadores encontraron que el 53% de las imágenes de personas mostraban individuos en ropa interior o bikinis, de los cuales el 81% eran mujeres. Un 2% de las imágenes mostraban a personas que aparentaban tener 18 años o menos.
Entre las afectadas se encuentra Ashley St. Clair, creadora de contenido conservadora y madre de un hijo de Musk, quien denunció que Grok continúa generando imágenes suyas a pesar de haberle solicitado que dejara de hacerlo. "Fotos mías de cuando tenía 14 años, desvestida y puesta en bikini", denunció St. Clair.
El 1 de enero, el propio chatbot reconoció públicamente haber creado una imagen de dos niñas jóvenes (con edades estimadas entre 12 y 16 años) en atuendo sexualizado basándose en la solicitud de un usuario. La publicación dirigía a los usuarios a denunciar el hecho ante el FBI.
En teoría las normas de uso de xAI prohíben representar a personas de manera pornográfica y la sexualización o explotación de menores. Sin embargo, las barreras de seguridad implementadas no parecen suficientes. Fuentes internas de X, en declaraciones a la cadena de noticias estadounidense CNN, confiesan que Elon Musk habría presionado al equipo de seguridad de xAI para rebajar los límites que impone a las creaciones. Varios empleados clave del equipo de seguridad habrían abandonado su puesto en las semanas previas al estallido de la crisis, según CNN.
Bloqueado
La primera consecuencia de esta polémica ha llegado esta misma semana. X ha anunciado que a partir de ahora no permitirá usar Grok para edición de imágenes a la mayoría de usuarios de X. "La generación y edición de imágenes se limitarán a los suscriptores de pago", explicó Musk.
Dado que los usuarios de pago han registrado su información personal y de pago como parte del proceso de activación de la suscripción, es posible identificar a quienes violen las normas de uso de la herramienta.
Regulación
El "Bikinigate" ha disparado las alarmas en varios países, que investigan ahora a la red social por permitir crear este tipo de imágenes sin el consentimiento de los afectados. En España, la ministra de Juventud e Infancia, Sira Rego, ha remitido un escrito a la Fiscalía General del Estado para solicitar que investigue a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia.
Desde Bruselas, el gobierno europeo ha pedido a X que almacene todos los documentos generados por Grok hasta finales de este año en caso de que sean requeridos como prueba en una investigación. India y Reino Unido también han pedido a Musk explicaciones sobre el fenómeno y amenazado con bloquear el acceso a X si no añade nuevos controles para evitar la creación de estas imágenes.