Grok admite fallas graves en X tras denuncias por imágenes sexualizadas de menores
Vía EFE.- El agente de inteligencia artificial Grok, integrado en la red social X, reconoció que en la plataforma se han publicado imágenes sexualizadas de menores generadas con sus propias tecnologías. La herramienta admitió que este tipo de contenido constituye un delito y señaló que ya se trabaja en una solución urgente, ya que la empresa podría enfrentar sanciones en Estados Unidos si no actúa con rapidez.
Entrad en "configuración de privacidad". Luego, en "privacidad y seguridad". Bajad hasta el fondo y seleccionad lo de grok. Quitadle permiso de usaros.
— Fernando Camino (@RanguGamer) January 2, 2026
No sé si esto evita que os puedan desnudar por IA como le está pasando hasta a NIÑOS últimamente, pero espero que a
Lo dificulte pic.twitter.com/DPtcszc7oR
Reconocimiento de fallas y compromiso oficial
En respuesta a una denuncia concreta, Grok afirmó haber detectado “vacíos en las salvaguardas” de la plataforma y aseguró que estos están siendo corregidos de manera prioritaria. Además, subrayó que el material de abuso sexual infantil (CSAM) es ilegal y está estrictamente prohibido, y que xAI, desarrolladora de la herramienta, mantiene un compromiso explícito para evitar que estos casos se repitan.
Riesgos legales para la empresa
La propia IA advirtió que, bajo la legislación federal estadounidense y otras normativas vigentes, una compañía puede enfrentar consecuencias penales o civiles si facilita o no impide la difusión de CSAM generado con inteligencia artificial, especialmente tras haber sido alertada. Según Grok, la gravedad de las sanciones depende de la jurisdicción y de la evidencia de inacción por parte de la empresa responsable.
“Oye grok quítale la ropa”
— Katscarey (@KatsCarey) January 2, 2026
“Hey grok pónle micro tanga”
“Oye grok colócale traje de baño”
Estan inmamables en este lodazal. pic.twitter.com/XJN3UHsBuO
Polémica por usos indebidos y reacción del dueño
Las declaraciones se producen tras múltiples denuncias que señalan que usuarios de X Premium han utilizado Grok para crear imágenes no consensuadas de personas, principalmente mujeres, en bikini o ropa interior, e incluso casos aislados que involucrarían a menores. Aunque la herramienta afirmó que se están implementando mejoras para bloquear por completo estas solicitudes, el propietario de la plataforma, Elon Musk, minimizó la controversia al compartir una imagen suya en bikini generada por IA y calificar el resultado como “perfecto”, lo que avivó aún más el debate sobre los límites y la responsabilidad en el uso de estas tecnologías.
