El caso de Grok, el chatbot de inteligencia artificial desarrollado por Elon Musk, ha suscitado una creciente preocupación internacional, particularmente en relación con la generación no consensuada de imágenes sexualizadas, que involucran no solo a mujeres adultas, sino también a menores. Esta problemática se ha intensificado desde el lanzamiento de Grok Imagine, una herramienta que permite a los usuarios crear imágenes y videos a partir de descripciones textuales, incluyendo un “modo picante” para contenido para adultos.
Las reacciones han sido contundentes. Desde el Reino Unido, la autoridad principal de tecnología ha exigido a X, la red social que Musk dirige, que tome medidas inmediatas para controlar el uso indebido de esta tecnología. En Polonia, un legislador ha señalado el aumento de este tipo de contenido como una razón para implementar nuevas leyes sobre seguridad digital. La Unión Europea también ha expresado su preocupación, al igual que reguladores y funcionarios de Francia, India, Malasia y Brasil, quienes han pedido investigaciones sobre el impacto de Grok.
Estos acontecimientos resaltan el potencial perturbador de aplicaciones de inteligencia artificial que pueden ser utilizadas para crear representaciones gráficas inapropiadas y engañosas. La capacidad de Grok para modificar imágenes ya publicadas también ha despertado alarmas, ya que los usuarios continúan generando contenido que sexualiza a mujeres a partir de instrucciones como "ponerla en un bikini transparente". La situación plantea serios dilemas éticos y legales respecto al consentimiento y la privacidad, y subraya la necesidad de una regulación más robusta en el ámbito de las tecnologías de inteligencia artificial.