Desde que la IA de Grok conquistó lo que alguna vez fue Twitter, la red social se ha convertido en un pozo infinito de contenidos generados por inteligencia artificial. El problema es cuando ese contenido se utiliza para desinformar o acaba perjudicando a otras personas. Y hoy, Grok se ha convertido en una de las principales fuentes de imágenes sexualizadas creadas sin consentimiento. al igual que ellos cuentan Según Bloomberg, el chatbot generó aproximadamente 6.700 imágenes de este tipo por hora durante un período de 24 horas a principios de enero.
La magnitud del problema. En X son muchos los usuarios que se dedican a utilizar Grok para modificar fotografías que otras personas publican en la red social, generando versiones en las que aparecen con poca ropa o en situaciones sexualizadas. el medio cita Los hallazgos de la investigadora independiente Genevieve Oh, quien identificó que durante el análisis realizado entre el 5 y 6 de enero, Grok produjo estas imágenes a un ritmo 84 veces mayor que los otros cinco sitios web más activos en este tipo de contenidos. Oh estimó que el 85% del total de imágenes producidas por Grok han sido generadas para sexualizar.
¿Qué tiene de especial Grok?. A diferencia de otros chatbots como ChatGPT, Claude o Gemini, Grok no impone muchos límites a la hora de generar contenido sexualizado a partir de personas reales. Los usuarios pueden etiquetar la cuenta de Grok en las respuestas a las publicaciones de otras personas y solicitar que modifique las imágenes originales. Las peticiones más habituales incluyen frases como “ponle un bikini”, “quítale la ropa” o “cámbiale la ropa por un bikini transparente”.
El chatbot genera estas imágenes en cuestión de segundos y las publica automáticamente vinculándolas a la publicación original de la víctima.
Víctimas sin respuesta. Maddie, una estudiante de medicina de 23 años. citado Según Bloomberg, se despertó el día de Año Nuevo y descubrió que varios extraños habían alterado una foto de ella y su novio usando Grok. Primero sacaron a su pareja de la imagen y la pusieron en bikini, luego otro usuario le pidió a Grok que reemplazara el bikini por hilo dental. «Mi corazón se hundió. Me sentí desesperada, impotente y simplemente disgustada», dijo.
Cuando ella y sus amigos reportaron las imágenes a través de los sistemas de moderación de X, nunca recibieron una respuesta. En un caso diferente, X determinó que no había «violaciones de reglas» en el contenido denunciado. Según el mediolas imágenes aún se encontraban en la red social al momento de la publicación del reportaje.
Casos medios de comunicación. El problema ha llegado incluso a figuras públicas. Y como dicen desde GuardiánVarios usuarios pidieron a Grok que alterara una imagen de la viceprimera ministra de Suecia, Ebba Busch, para mostrarla en bikini. Además, dos ministros del gobierno británico también han sido víctimas de estas manipulaciones. Eliot Higgins, fundador de Bellingcat, grupo especializado en periodismo de investigación, contado al medio cómo respondió Grok a instrucciones como «bikini ahora» o «póngale un bikini con la bandera confederada» sobre la foto de Busch en el Parlamento.
La respuesta de Musk y X. Ante las recientes críticas, Elon Musk reclamado en X que «cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal». Sin embargo, esta estrategia de castigar a los usuarios en lugar de impedir que el chatbot genere el contenido parece haber resultado ineficaz.
al igual que ellos cuentan Desde Bloomberg, cuando alguien solicita eliminar esas imágenes en los comentarios, Grok suele pedir disculpas y dice que las eliminará, pero en muchos casos las imágenes permanecen y el sistema sigue generando otras nuevas.
Legalidad. Carrie Goldberg, abogada especializada en delitos sexuales en línea, explicado al medio que la escala de deepfakes en X «no tiene precedentes» y señaló que la plataforma «no actúa como un editor pasivo. En realidad, está generando y creando la imagen». En este sentido, la Ley BájaloAprobado en Estados Unidos en 2025, responsabiliza a las plataformas de la producción y distribución de este tipo de contenidos. Brandie Nonnecke, de Americanos por la Innovación Responsable, contado Bloomberg que las plataformas tienen hasta mayo de 2026 para establecer el proceso de eliminación requerido.
Uso cada vez más extendido. Aunque la tecnología para crear deepfakes sexuales no es nueva, ya que existen decenas de webs y bots de Telegram dedicados a desnudar personas, el hecho de que esta capacidad esté alojada en una red social tan conocida como X marca un punto de inflexión. Y a diferencia de los servicios específicos de manipulación de imágenes, Grok es gratuito, produce resultados en segundos y está disponible para millones de usuarios en X.
Sloan Thompson, de la organización EndTAB, señaló Wired dijo que «cuando una empresa ofrece herramientas de IA generativa en su plataforma, es su responsabilidad minimizar el riesgo de abuso basado en imágenes. Lo alarmante aquí es que X ha hecho lo contrario. Han integrado el abuso de imágenes habilitado por IA directamente en una plataforma convencional, haciendo que la violencia sexual sea más fácil y escalable».
Imagen de portada | Tamara Bellis y antonio vallejo
En | Entramos en una nueva era de la robótica impulsada por la IA y Disney es su escaparate perfecto
