Grok: la inteligencia artificial señalada por sexualizar a mujeres, niñas, niños y adolescentes
En las últimas semanas ha aumentado el número de quejas de parte de gobiernos del mundo y usuarios de internet por las imágenes de menores y mujeres con poca ropa o en posiciones sexualmente explícitas que se han creado a través de Grok, la inteligencia artificial de X –antes Twitter.
En X han circulado órdenes de usuarios de la red social que le solicitan a Grok que le retire la ropa a niñas, niños, adolescentes y mujeres a partir de una imagen real de la persona. Incluso, en algunos casos la propia herramienta genera una fotografía sexualizada de la persona sin que un usuario lo haya pedido específicamente.
Esta situación provocó que existieran cuestionamientos sobre el uso ético de la inteligencia artificial y los riesgos asociados con la privacidad y la dignidad de las personas.
Grok es un asistente de inteligencia artificial desarrollado por la empresa xAI, de Elon Musk, integrado en la red social X. Destaca por su acceso en tiempo real a la información de la plataforma, además de que tiende a responder de una manera rebelde y humorística las peticiones de los usuarios, lo que lo ha hecho resaltar entre los demás chatbots.
Carlos Piña, doctor en sistemas computacionales, explica que este problema se inició en diciembre de 2025, cuando comenzaron a viralizarse imágenes de niñas, niños, adolescentes y mujeres con poca ropa fabricadas con inteligencia artificial en la red social X.
Sihara Raygoza, maestra en terapia familiar sistémica y coordinadora del área de investigación de la organización Te Protejo México, detalla que cada vez es más común que se vea en redes sociales este tipo de imágenes tan explícitas. No obstante, no califica a Grok como una herramienta ni buena ni mala, más bien no existen los filtros aún para utilizar la inteligencia artificial de manera responsable.
La polémica actualización de Grok
En agosto de 2025 se le realizaron una serie de actualizaciones a Grok, entre ellas se añadió el spicy mode “modo picante” de la plataforma, que cuando es activado por un usuario permite crear contenido visual explícito.
El sistema implementó cuatro modos predeterminados, entre los cuales se encuentra: personalizado, normal, divertido y picante.
Cuando el usuario selecciona el “modo picante” debe confirmar que es mayor de edad, después la inteligencia artificial puede generar imágenes o videos explícitos con una duración de hasta 15 segundos.
Carlos Piña resalta que, de este modo, el sistema no siempre requiere de instrucciones explícitas para producir desnudos.
“No siempre es necesario que el usuario pida explícitamente que quiere generar un desnudo, por ejemplo, si da la instrucción de que quiere editar una foto para que aparezca celebrando una fiesta, puede fabricar una imagen sexualizada o con contenido no deseado”, menciona Piña.
Las imágenes se viralizan en X
Carlos Piña explica a El Sabueso que Grok no es el único modelo de inteligencia artificial capaz de realizar este tipo de imágenes de manera tan explícita; sin embargo, el problema radica en que la plataforma creada por Elon Musk habita y convive directamente en X, una red social que tiene más de 550 millones de usuarios en todo el mundo.
“El hecho de que Grok habite en la plataforma X hizo que se potenciara y viralizara el problema, pues hay otros modelos de inteligencia artificial que también realizan este tipo de imágenes”, detalla el especialista.
Como Grok realiza imágenes de desnudos y estas se comparten directamente en X, rápidamente se viralizan y tienen un alcance muy amplio; pero no solamente eso, a través de las publicaciones en las que se presentan estos archivos se muestra cómo los usuarios le solicitan a la inteligencia artificial que fabrique este tipo de contenido.
El especialista asegura que la problemática se inició porque los propios usuarios comenzaron a solicitar ayuda a Grok para editar sus propias fotos con solicitudes como “en esta imagen ponme con bikini” o “colócame con poca ropa”. A raíz de esta tendencia, otros internautas lo replicaron, y lo peor, con fotografías de otras personas, entre ellas, niñas, niños, adolescentes y mujeres.
“Aquí el detalle es que al principio tuvo muchas influencias, principalmente de mujeres, que comenzaron a utilizar Grok para mejorar sus imágenes o ponerse ellas en bikini. Y de ahí el usuario común se dio cuenta de que puede poner a otra persona de manera no consensuada en bikini y exponerla, acción que se ha ejecutado mucho en menores de edad”.
Países denuncian sexualización de personas a través de Grok
En México, la Secretaría de las Mujeres se pronunció en contra de este modelo de inteligencia artificial por su uso en la manipulación y difusión de imágenes creadas con inteligencia artificial sin su consentimiento, por lo que hizo un llamado a las personas responsables de X para evitar que la red social se convierta en un espacio en el que se genera violencia de género.
En cuanto a Estados Unidos, un grupo de senadores envió una carta a Apple y Google solicitandoles que eliminen X y Grok de sus tiendas de aplicaciones por violar los términos de distribución.
La ministra de Tecnología de Reino Unido, Liz Kendall, destacó que no se trata de imágenes inofensivas, las calificó como ilegales y armas de abuso dirigidas hacia mujeres y niñas. Además, la ley de Uso y Acceso de Datos que se aprobó en 2025 en dicho país tipifica la creación o petición de generación de imágenes íntimas sin consentimiento como un delito penal.
Autoridades de Malasia advirtieron que tomarán acciones legales contra X y la empresa xAI, acusando a ambas compañías de no garantizar la seguridad de los usuarios al permitir la creación de este tipo de contenido.
Desde el 10 de enero las autoridades de Indonesia bloquearon de manera temporal el acceso a Grok en todo el país.
La Unión Europea (UE) advirtió que si Elon Musk no hacía algo rápido para arreglar las funciones de Grok aplicará la Ley de Servicios Digitales, un marco legal que establece normas para intermediarios digitales, con el fin de proteger a los usuarios, luchar contra lo ilegal, responsabilizar a las plataformas y aumentar la transparencia.
Otros países que también comenzaron con investigaciones en contra de Grok por la creación de imágenes íntimas no consensuadas son Francia, India y Brasil.
Limitan el uso de la generación de imágenes en Grok
Después de las múltiples denuncias en contra de Grok, el 9 de enero, X señaló que restringiría la herramienta de generación de imágenes a los suscriptores de pago; sin embargo, The Washington Post mencionó que la compañía estaba sacando provecho del problema en lugar de resolverlo.
Por lo anterior, días después X anunció que había implementado algunas medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis, restricción que se aplicaría a todos los usuarios, incluidos los suscriptores de pago.
Incluso Musk se pronunció y adelantó que habrá consecuencias para quienes intenten generar imágenes sexuales de menores y X anunció que eliminará el contenido ilegal y suspenderá las cuentas involucradas.
Pero la medida solamente aplica para cuando los usuarios solicitan las imágenes por medio de X a través de un tweet o en un comentario, pero si los usuarios acceden a Grok en su aplicación independiente o a su sitio web directo, todavía es posible crear imágenes explícitas.
“Aunque se impuso una restricción para generar estas imágenes en X, si un usuario ingresa al sitio web independiente de Grok o descarga la aplicación, esta función sigue estando disponible”, puntualiza el doctor en sistemas computacionales.
¿Esta medida combate el problema?
El doctor en sistemas computacionales explica que, aunque la medida puede mitigar hasta cierto punto la distribución masiva de imágenes a través de X, no se le puede dar el voto de confianza, pues los usuarios pueden encontrar la manera de “corromper” a este tipo de modelos de inteligencia artificial.
“A estos modelos no podemos darles el voto de confianza porque hay muchas maneras de quebrarlos o corromperlos, se puede jugar con la ‘inteligencia’ de Grok para que pueda seguir creando estas imágenes”, añade.
Para Carlos Piña existe una gran probabilidad de que los usuarios se sigan encontrando con imágenes explícitas en X, porque aunque ya no se pueden generar en la red social, se pueden fabricar desde la plataforma independiente de Grok y, posteriormente subirse a la plataforma antes llamada Twitter.
En conclusión, el especialista añade que existe una gran probabilidad de que, pese a las medidas implementadas por X, el problema no termine aquí, sino que con el tiempo se vaya magnificando y propagando incluso a otras plataformas de uso cotidiano.
“Tenemos que tomar en cuenta que, aunque se haya limitado la modalidad de Grok y su distribución en X, eso no significa que el problema se va a terminar, más bien se trata de la punta del iceberg”, afirma el especialista.
¿Qué se debe hacer en caso de encontrar en redes sociales este tipo de imágenes?
Sihara Raygoza asegura que esta problemática puede ser muy confusa para niñas, niños y adolescentes al tratarse posiblemente de su primera exposición temprana a temas de violencia, por lo que puede generar cuestionamientos en ellos acerca de qué es real, qué es ficticio y por qué se distribuye ese tipo de contenido.
“No todo lo que se genera con inteligencia artificial debería de circular libremente por la red, como sociedad sí tenemos la responsabilidad de ver, reportar y no normalizar este tipo de contenidos que vulneran los derechos de niñas, niños, adolescentes y mujeres”.
Por lo anterior, la especialista recomienda en primer lugar que todos los usuarios reporten este tipo de imágenes cuando las lleguen a encontrar en redes sociales haciendo uso de las herramientas de reporte de la propia plataforma como Facebook, Instagram, TikTok y X.
También se puede acudir directamente con autoridades como la Policía Cibernética o la Guardia Nacional para hacer el reporte. Incluso existen plataformas como Te Protejo México y StopNCII, sitios en donde los usuarios pueden denunciar este tipo de imágenes, pues la organización se encarga de erradicar el contenido de la web de todos los servidores.
La maestra en terapia familiar también sugiere que, en el caso de los niños, se les limite el uso de redes sociales al menos hasta que cumplan 13 años de edad, ya que es la recomendada para comenzar a utilizar estas plataformas, aunque los padres siempre deben de estar al pendiente de qué es lo que publican, comparten y consumen.
“Es necesario que los niños utilicen las redes sociales a una edad en donde ya tengan un poco más de conciencia sobre lo que implica usar este tipo de plataformas, pero deben tener siempre un acompañamiento parental, que los vaya guiando sobre cómo utilizar las plataformas de manera responsable”, recalca la especialista.
Añade también que antes de permitirles el uso de las redes sociales, los padres deben explicar a sus hijos sobre los peligros de usarlas, como en este caso, los riesgos de que su imagen sea violentada de alguna manera.
“Los padres deben de crear una estrategia y explicarles a qué se pueden enfrentar, qué pueden hacer, darles herramientas para decirles ‘si ves este tipo de contenido (imágenes íntimas) debes reportarlo y nunca compartirlo’”, sugiere Sihara Raygoza.
Relacionado
Los científicos creen que el mapa podría arrojar luz sobre cómo responderá la vasta capa de hielo de la Antártida al cambio climático.
Un nuevo mapa ha revelado el paisaje bajo el hielo de la Antártida con un detalle sin precedentes, algo que, según los científicos, podría mejorar enormemente nuestra comprensión del continente blanco y helado.
Los investigadores utilizaron datos satelitales y la física del movimiento de los glaciares antárticos para determinar cómo podría verse el continente bajo el hielo.
Encontraron evidencias de miles de colinas y crestas previamente desconocidas, y afirman que sus mapas de algunas de las cordilleras ocultas de la Antártida son más claros que nunca.
Aunque los mapas podrían no ser los definitivos y variar un poco, los investigadores creen que los nuevos detalles arrojarán luz sobre cómo responderá la Antártida al cambio climático y qué implicaciones tiene esto para el aumento del nivel del mar.
“Antes, era como tener una cámara con rollo fotográfico y píxeles granulados, y ahora tienes una imagen digital con el zoom adecuado de lo que realmente está sucediendo”, declaró a BBC News la autora principal, Helen Ockenden, investigadora de la Universidad de Grenoble-Alpes.
Gracias a los satélites, los científicos comprenden bien la superficie helada de la Antártida, pero lo que se esconde debajo sigue siendo un misterio.
De hecho, se sabe más sobre la superficie de algunos planetas de nuestro Sistema Solar que sobre gran parte de la “zona vulnerable” de la Antártida: la topografía bajo la capa de hielo.
Pero los investigadores ahora tienen lo que consideran el mapa más completo y detallado de esa zona vulnerable jamás creado.
“Estoy muy emocionado de poder observar esto y ver todo el lecho de la Antártida de una sola vez”, dijo el profesor Robert Bingham, glaciólogo de la Universidad de Edimburgo y coautor del estudio. “Me parece asombroso”.
Las mediciones tradicionales desde tierra o aire han utilizado radares para “ver” bajo el hielo, que en algunos lugares alcanza hasta 4,8 km de espesor, a menudo siguiendo líneas o pistas de reconocimiento individuales.
Pero estas pistas podrían estar separadas por decenas de kilómetros, lo que obliga a los científicos a completar las lagunas.
“Si imaginamos que las Tierras Altas de Escocia o los Alpes europeos estuvieran cubiertos de hielo y que la única forma de comprender su forma fuera un vuelo ocasional a varios kilómetros de distancia, sería imposible ver todas estas montañas y valles escarpados que conocemos”, afirmó Bingham.
Cómo se mueve el hielo
Por ello, los investigadores utilizaron un nuevo enfoque, combinando su conocimiento de la superficie del hielo, obtenido mediante satélites, y su comprensión de cómo se mueve el hielo, obtenida a partir de la física, y comparándolos con esas pistas previas.
“Es como navegar en kayak por un río, debajo del agua hay rocas y, a veces, los remolinos en la superficie pueden revelar información sobre las rocas bajo el agua”, explicó Ockenden.
“Y, obviamente, el hielo fluye de forma muy diferente al agua, pero aun así, cuando el hielo fluye sobre una cresta o una colina en el lecho rocoso […] eso se manifiesta en la topografía de la superficie, pero también en la velocidad”.
Aunque las principales cordilleras de la Antártida se conocían, el nuevo enfoque de los científicos ha revelado decenas de miles de colinas y crestas previamente desconocidas, así como mayores detalles sobre algunas de esas montañas y cañones enterrados bajo el hielo.
“Creo que es realmente fascinante observar todos estos nuevos paisajes y descubrir qué hay allí”, dijo Ockenden.
“Es como cuando ves un mapa topográfico de Marte por primera vez y piensas: ‘¡Guau, esto es tan interesante! Se parece un poco a Escocia’, o ‘Esto no se parece a nada que haya visto antes'”.
Un descubrimiento fascinante es un profundo canal excavado en el lecho antártico, en una zona llamada Cuenca Subglacial Maud.
El canal tiene una profundidad media de 50 m, una anchura de 6 km y una longitud de casi 400 km, aproximadamente la distancia de Londres a Newcastle en línea recta.
Es poco probable que el nuevo mapa de los investigadores sea el definitivo. Se basa en suposiciones sobre cómo fluye exactamente el hielo, lo cual, como cualquier método, conlleva incertidumbres.
Y aún queda mucho por descubrir sobre las rocas y los sedimentos que se encuentran bajo el hielo.
No te pierdas: Cómo el trozo de hielo más antiguo de la Tierra puede “revolucionar” lo que sabemos del cambio climático
Sin embargo, otros investigadores coinciden en que —combinados con estudios adicionales desde tierra, aire y espacio— los mapas representan un valioso avance.
“Este es un producto realmente útil”, afirmó Peter Fretwell, científico principal del British Antarctic Survey en Cambridge, quien no participó en el nuevo estudio, pero sí en la cartografía anterior.
“Nos brinda la oportunidad de completar los datos entre esos estudios”, añadió.
La futura Antártida
Una comprensión más detallada de todas las crestas, colinas, montañas y canales podría mejorar los modelos informáticos sobre cómo podría cambiar la Antártida en el futuro, afirman los investigadores.
Esto se debe a que estas formas del terreno y accidentes geográficos determinan, en última instancia, la velocidad con la que se mueven los glaciares y su capacidad para retroceder en un clima más cálido.
Y esto es importante porque la velocidad futura del derretimiento en la Antártida se considera ampliamente una de las mayores incógnitas de la ciencia climática.
“[Este estudio] nos da una mejor visión de lo que sucederá en el futuro y de la rapidez con la que el hielo en la Antártida contribuirá al aumento global del nivel del mar”, coincidió Fretwell.
El estudio está publicado en la revista académica Science.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
