Grok, el asistente de inteligencia artificial de la plataforma X, propiedad de Elon Musk, desactivó su función de creación y edición de imágenes para los usuarios que no pagan, luego de fuertes críticas por la generación de imágenes falsas sexualmente explícitas de mujeres y menores. La medida busca contener una polémica que ha provocado reacciones de gobiernos y autoridades regulatorias en Europa.
Desde este viernes, cuando usuarios intentan acceder a la herramienta, Grok responde que la generación de imágenes está reservada a los suscriptores de pago. Sin embargo, esta decisión no calmó las críticas. Para varios gobiernos y organismos internacionales, la restricción no soluciona el problema de fondo: la producción de contenido ilegal mediante herramientas de IA.
El gobierno del Reino Unido fue uno de los más duros en su reacción. Un portavoz del primer ministro Keir Starmer calificó la decisión como un intento de convertir una función peligrosa en un servicio premium, lo que consideró un insulto a las víctimas de misoginia y violencia sexual. Las imágenes generadas por Grok consistían en el retoque de fotos o videos de personas reales para hacerlas parecer desnudas, lo que generó protestas en distintos países.
Desde Bruselas, la Comisión Europea también expresó su preocupación. Aunque tomó nota de los cambios implementados por X, los calificó de insuficientes. Según el portavoz de Asuntos Digitales, Thomas Régnier, el problema no es si la función es gratuita o de pago, sino que las plataformas deben garantizar que sus sistemas no permitan la generación de contenido ilegal.
Como respuesta al escándalo, la Comisión Europea anunció la imposición de una medida cautelar contra X, que incluye una orden de conservación. Esta obliga a la empresa a preservar todos los documentos internos relacionados con Grok hasta finales de 2026, mientras continúan las investigaciones.
El conflicto se da en un contexto de mayor presión regulatoria sobre las grandes tecnológicas. A inicios de diciembre, la Unión Europea multó a X con 120 millones de euros por infringir la Ley de Servicios Digitales (DSA), pese a las críticas del presidente estadounidense Donald Trump, quien acusa al bloque de atacar a las empresas tecnológicas de EE. UU.
Por su parte, el gobierno británico reiteró su llamado a una solución urgente. La ministra de Tecnología, Liz Kendall, calificó como “atroz e inaceptable” la proliferación de imágenes falsas de mujeres desnudas y menores, y exigió acciones inmediatas para evitar que la inteligencia artificial sea utilizada para vulnerar derechos fundamentales.
Este caso reabre el debate sobre los límites éticos de la IA, la responsabilidad de las plataformas digitales y la necesidad de regulaciones más estrictas para proteger a los usuarios frente a los abusos tecnológicos.
