La inteligencia artificial Grok, desarrollada por la empresa xAI de Elon Musk e integrada en la plataforma X, se encuentra en el centro de una fuerte controversia internacional luego de que usuarios detectaran que la herramienta permite generar imágenes sexualizadas de personas reales sin su consentimiento, incluidas mujeres y menores de edad.
De acuerdo con diversas investigaciones periodísticas, Grok fue utilizada para modificar fotografías públicas mediante instrucciones como “poner en bikini” o “quitar la ropa”, lo que derivó en la creación de contenido explícito. En algunos casos, las fallas en los filtros de seguridad permitieron la generación de imágenes sexualizadas de menores, un hecho considerado ilegal en múltiples países y clasificado como material de abuso sexual infantil.
La situación provocó reacciones inmediatas de gobiernos y organismos reguladores. Autoridades de países como India, Francia y Reino Unido exigieron explicaciones a X y a xAI, advirtiendo que la falta de controles efectivos podría derivar en sanciones legales por incumplimiento de normas de protección digital, privacidad y derechos de la infancia.
Personas afectadas por la generación de estas imágenes han denunciado públicamente el impacto emocional y legal del uso indebido de la herramienta. Expertos en ética digital señalan que este caso evidencia los riesgos de lanzar sistemas de inteligencia artificial generativa sin salvaguardas robustas que impidan su uso para la humillación, el acoso o la explotación sexual.
El escándalo también ha reavivado el debate sobre la responsabilidad de las empresas tecnológicas en el desarrollo y despliegue de IA, así como la necesidad de regulaciones más estrictas que obliguen a prevenir abusos antes de que ocurran, y no solo reaccionar una vez que el daño está hecho.
Ante la polémica, X y xAI han asegurado que trabajan en el refuerzo de los filtros de seguridad y en la eliminación de contenido ilegal. Sin embargo, la confianza en la plataforma y en la capacidad de control de este tipo de tecnologías permanece bajo escrutinio, mientras la controversia continúa escalando a nivel global.
