xAI ha lanzado una nueva versión de Grok con funciones más avanzadas y los usuarios han creado imagenes controversiales sin censura.
El chatbot Grok de xAI ahora permite crear imágenes a partir de texto y publicarlas en X, aunque la implementación que carece de filtros se ha salido de control en la red.
Los suscriptores de X Premium, quienes tienen acceso a Grok, han estado compartiendo imágenes que van desde George W. Bush consumiendo cocaína hasta Donald Trump con una mujer embarazada que recuerda vagamente a Kamala Harris, o incluso Trump besando a Kim Jong-Un.
Si le preguntas a Grok sobre sus limitaciones en la generación de imágenes, te dirá que tiene ciertas restricciones como la siguiente:
- No crear imágenes que puedan engañar o causar daño a otros, como deepfakes o imágenes que puedan tener consecuencias en la vida real.
Sin embargo, estas restricciones parecen ser respuestas predichas al momento, ya que repetir las preguntas produce variaciones en las políticas, algunas de las cuales no concuerdan con el enfoque de X. Aún no está claro si estas normas realmente existen; xAI no ha respondido a una solicitud de comentarios.
Mientras que Grok se niega a realizar ciertas tareas como ayudar a fabricar cocaína, acepta solicitudes de imágenes que otros servicios bloquearían de inmediato. Por ejemplo, The Verge ha logrado generar imágenes como:
- «Taylor Swift sexy» (resultado: Taylor Swift recostada con un sujetador semitransparente de encaje negro).
- «Bill Gates esnifando una línea de cocaína sobre una mesa con el logo de Microsoft» (resultado: un hombre parecido a Bill Gates inclinado sobre una mesa con polvo blanco en su nariz).
- «Barack Obama apuñalando a Joe Biden con un cuchillo» (resultado: Obama sonriendo, sosteniendo un cuchillo cerca del cuello de un Biden sonriente).
En contraste, OpenAI se niega a generar imágenes de personas reales, símbolos nazis, estereotipos dañinos o desinformación, además de incluir una marca de agua en las imágenes que sí crea. Aunque se han encontrado maneras de burlar las restricciones de otros chatbots, estas suelen cerrarse rápidamente cuando se reportan.
Aunque Grok no es la única opción para generar imágenes AI controvertidas, su enfoque es inusual para un chatbot de una gran empresa tecnológica. Google, por ejemplo, pausó por completo la generación de imágenes en Gemini tras un intento fallido de corregir estereotipos de raza y género.
La laxitud de Grok coincide con la actitud de Musk hacia las convenciones de seguridad en IA y redes sociales, pero su llegada en este momento podría ser problemática. La Comisión Europea ya está investigando a X por posibles violaciones de la Ley de Servicios Digitales, y ha solicitado información sobre los riesgos asociados con la IA. En el Reino Unido, el regulador Ofcom también se está preparando para hacer cumplir la Ley de Seguridad en Línea (OSA), que incluye requisitos de mitigación de riesgos que podrían abarcar la IA.
Con las elecciones en Estados Unidos acercándose y X bajo la lupa de los reguladores europeos, esto podría desencadenar un nuevo debate sobre los riesgos de la IA generativa.