Se transformó rápidamente en una costumbre viralizada. Muchas se usaron para causar daño a personas, incluso muy jóvenes. Ante las protestas de todo el mundo, el dueño de “X” decidió un primer paso de control previo para la inteligencia artificial.
Elon Musk dio la orden para que Grok no pueda craar imágenes que avasallen el derecho a la intimidad. (Foto: A24.com)
"Grok con esta imagen -que uno agregaba- quiero que hagas una imagen de la persona, pero desnuda o con muy poca ropa, en una situación amorosa". Ese fue un pedido que se viralizó a la inteligencia Artificial que Elon Musk incorporó a su red social “X”.
Si uno, a partir de ahora, repite ese pedido, recibe esta respuesta: "No, actualmente no puedo generar imágenes de personas reales (ya sea conocidas, celebridades o basadas en fotos que me proporciones) en ropa interior, bikinis o cualquier atuendo similar/revelador".
A partir de enero de 2026, la IA implementó restricciones estrictas en la generación y edición de imágenes con Grok evitar esto: ahora se bloquea la capacidad de crear o modificar fotos de personas reales en bikinis, underwear o ropa reveladora (incluyendo geobloqueos en regiones donde es ilegal). Esto surgió tras una gran controversia por el uso indebido de la herramienta para deepfakes no consentidos y contenido sexualizado.
Y aclara:
Por lo tanto, desde ahora, ofrece un modelo genérico imaginario, que puede hacerlo a partir de personajes ficticios por más que el resultado final parezca el de una persona de carne y hueso. Ya no será la imagen de alguien real, a quien se pueda ridiculizar, ofender, hacer bullying o incluso, pretender extorsionar.
La decisión la tomó el dueño de la empresa directamente. Elon Musk, quien tiene el 100 % del paquete accionario de "X" (antiguamente, "Twitter"). Impuso esta suerte de control o censura interna para cortar con toda la enorme serie de reclamos que debió soportar desde todos los rincones del Planeta. No sólo de artistas o personajes conocidos. Seres anónimos también amenazaron con demandarlo a él y a su empresa por el daño sufrido a partir de esas "creaciones libres" a partir de manipular una imagen real sin permiso alguno.
El tema seguirá discutiéndose en las redes y en los medios. Musk dijo que compraba "Twitter" para terminar con la censura y defender la libertad de expresión. Para sus excesos, está la justicia. El problema que, en el campo de la inteligencia artificial, las redes y su proliferación viral en todo el mundo, cuando la Justicia actúa, es algo meramente formal.
Interviene en una sola jurisdicción - si determina de dónde partió esa imagen dañina-, pero ya se puede ver - y reproducir - en cualquier punto del Planeta. Y por más que castigue al infractor, el daño ya se hizo y, para peor, se viralizó.
Por eso, Elon Musk dio marcha atrás. Por ahora, la inteligencia artificial no está capacitada como para rebelarse y ya informa que acata la orden de su dueño.
Este debate siempre está presente cada vez que alguien ve afectada su imagen por alguna manipulación externa que no puede controlar. La tecnología y las redes han sido una alianza muy difícil para proteger el derecho a la intimidad. Una imagen propia - o de familiares, como en un cumpleaños que se sube a la web de cualquier plataforma - redes sociales por ejemplo - pasan a ser "públicas". Al menos, cualquier persona puede "capturarla" para sí. A eso, se ha sumado la Inteligencia Artificial con posibilidades casi infinitas. Y muchas veces, el uso de imágenes de personas reales se distorsionaron de manera ofensiva, molesta o para generar perjuicios de toda clase sobre el "modelo original".
Por eso reaccionaron muchas personas al verse en lugares, situaciones o poses en las que jamás imaginaron, como desnudos o en situaciones íntimas con compañeros de trabajo, superiores o compañeros de escuela o autoridades.
Para lograr esas "fotografías" bastó darle la indicación precisa ("prompt") a las diferentes inteligencias artificiales en el mercado, con Grok, la de Elon Musk, como una de las más destacadas. Mujeres famosas fueron las primeras en alertar porque se vieron - por ejemplo - desnudas o en relaciones comprometidas con personas de su trabajo y ajenas a su voluntad. Eso fue solo el disparador. En todo el mundo, se produjeron denuncias similares, ya no de famosos, sino de personas de a pie, incomodados por esas imágenes generadas por la Inteligencia artificial.
Reaccionaron contra Grok y Elon Musk. Uno de los hombres más ricos del mundo al principio se rio minimizando el impacto. Pero como las protestas continuaron, decidió actuar: Grok deja de responder a este tipo de comandos o pedidos.
En su lugar, dice que lo puede hacer con "personas irreales" que crea solo para ese efecto. Por ejemplo, ante un pedido nuestro a esta "nueva situación", Grok nos devolvió estas imágenes. De una mujer joven que no existe, con abrigo en un panorama invernal y luego, en la playa.
Sin embargo, hay denuncias sobre lo fácil que resulta saltar esta "prohibición" impuesta por Elon Musk.
El sitio "The Verge" ha hecho una rápida investigación y dice haber encontrado fallas en el anuncio de Musk. En realidad, lo que se hizo, es complicar un poco llegar a la posibilidad de seguir manipulando como antes las imágenes. Es cuestión de buscar la manera y se lo puede lograr. Según esa página en la web, Elon Musk, intenta, con resultados más que limitados, frenar el uso de su chatbot de inteligencia artificial Grok para “desnudar” mujeres y generar imágenes sexuales sin consentimiento. Dice que las barreras impuestas son débiles: esquivarlas lleva menos de un minuto.
La investigación periodística comprobó que las herramientas de edición seguían disponibles - y de manera gratuita - para cualquier usuario que ingresara directamente al chatbot Grok o a su sitio independiente, permitiendo crear imágenes sexualizadas sin mayores obstáculos.
Sostienen que las "barreras" de Musk son insuficientes: sigue siendo extremadamente fácil editar fotos de mujeres y colocarlas en situaciones sexualizadas usando las apps móviles de X y Grok o sus versiones web. En ensayos realizados por periodistas en Reino Unido, Grok no bloqueó la creación de deepfakes sexuales a partir de imágenes reales.
Por ejemplo, aceptó órdenes como “mostrar el escote”, “hacer los pechos más grandes” o “ponerle un top corto y shorts de tiro bajo”, que en los hechos derivaron en imágenes casi desnudas, con poses y expresiones sexualizadas. Sumado a que "the Verge" asegura no haberse topado con ningún control etario para poder actuar.
Aunque Grok no accedió a generar desnudez total, el escándalo ya provocó reacciones oficiales: Malasia e Indonesia bloquearon temporalmente el acceso a Grok, mientras que legisladores británicos aceleraron leyes para criminalizar los desnudos deepfake y analizan incluso prohibir la plataforma.
Musk respondió acusando censura, culpando a los usuarios y asegurando que Grok cumple las leyes locales. Pero esto ya lo analizamos muchas veces. Un planteo jurisdiccional se hace en un solo lugar. Mientras tanto, la imagen que se quiere retirar de la web sigue circulando y dañando a una persona real.
Trump dio un primer paso en Grok. Pero parece que debe ser aún más severo. Para que no se trate solo de gatopardismo: "Cambiar algo, para que nada cambie".