La furia de Musk por la multa a X provoca escalofríos entre el personal de la UE
Bruselas (Euractiv)- La multa de 120 millones de euros impuesta la semana pasada por la…
5 minutes
Bruselas (Euractiv)- El asistente de IA Grok, propiedad de Elon Musk, siempre se diseñó para ser provocador, incluso políticamente incorrecto. Pero esta controvertida herramienta ha desatado ahora la indignación mundial tras generar imágenes sexualmente explícitas de mujeres y niños, lo que pone de relieve la lentitud con la que se actúa contra los contenidos de abuso sexual generados por IA mediante deepfakes.
Desde agosto, el chatbot, que está integrado en la plataforma de redes sociales X de Musk, lo que lo pone al alcance de millones de usuarios, cuenta con un modo denominado «picante»: este permite a las personas generar contenido explícito mediante IA. En las últimas semanas, esta función de pornificación ha llevado a Grok a generar imágenes sexualmente explícitas de mujeres, incluidas menores.
Los países y los legisladores de la UE han respondido con repulsa, instando a Bruselas a acelerar la aplicación de la ley contra el desarrollador de Grok, xAI, a medida que el escándalo sigue creciendo. «Esto no es picante. Es ilegal», advirtió el lunes el portavoz digital de la Comisión, Thomas Regnier.
También afirmó que la Comisión está examinando la función como parte de la aplicación de la Ley de Servicios Digitales (DSA) de la UE, y añadió: «X es muy consciente de que nos tomamos muy en serio la aplicación de la DSA».
Dado que Grok se encuentra dentro de X, está regulado por la DSA, que la designa como una denominada plataforma en línea de gran tamaño (o VLOP). Ello significa que está sujeto a las normas más estrictas de la ley y a multas que pueden alcanzar hasta el 6 % de la facturación anual global.
«Este tipo de contenido es ilegal en la mayoría de los países de la UE», declaró la diputada de Los Verdes Alexandra Geese a Euractiv, al referirse a la función de pornificación de Grok. «La Comisión debería coordinarse con las DSC [autoridades nacionales que también aplican la DSA] y actuar con rapidez».
Francia y Alemania ya han instado a la Comisión a que utilice la DSA contra Grok. El martes, el ministro de Cultura alemán, Wolfram Weimer, pidió al ejecutivo de la UE que aplique rigurosamente la DSA a la plataforma. «Lo que estamos observando actualmente en X parece la industrialización del acoso sexual», afirmó.
La semana pasada, la alta comisionada francesa para la infancia, Sara El Haïry, también pidió al regulador francés de los medios de comunicación, Arcom, que investigara la producción de Grok en virtud de la DSA. Por otra parte, los legisladores franceses han pedido al fiscal de París que abra una investigación penal sobre el chatbot de IA de Musk.
Geese sostiene que una investigación de la DSA dirigida por la Comisión sobre Grok debería ser «muy rápida», lo que sugiere que podría imponer «una multa muy elevada» a la plataforma, debido al «enorme daño» sufrido por las víctimas de la pornificación. La ley también podría utilizarse para bloquear el acceso regional a X«si no cumplen inmediatamente», sugirió.
Sin embargo,el historial de la Comisión en materia de aplicación de la ley en X —y en la DSA en general— dista mucho de ser rápido. En diciembre, tras dos años completos de investigación,finalmente multó a la plataforma de Musk con 120 millones de euros por infringir las normas de transparencia de la DSA. Mientras tanto, siguen sin resolverse una serie de inquietudes más graves sobre la plataforma de Musk, que la Comisión también comenzó a investigar en diciembre de 2023.
Bruselas (Euractiv)- La multa de 120 millones de euros impuesta la semana pasada por la…
5 minutes
El desarrollador de Grok, xAI, respondió al revuelo por la pornificación mediante una publicación en X, en la que afirmaba que los resultados sexualizados se debían a un fallo en las medidas de seguridad de su sistema de IA. Curiosamente, la publicación está escrita en primera persona, y Grok se refiere a sí mismo como «yo», como si una herramienta digital pudiera asumir la culpa de los fallos técnicos, en lugar de los humanos que la crearon.
Para el legislador del PPE Jeroen Lenaers, ponente del Parlamento para la próxima revisión de la Directiva sobre abuso sexual infantil (CSA), el episodio era totalmente previsible. En su opinión, la incapacidad de prevenir los abusos es una característica de cómo plataformas como X optan por no autorregularse de forma proactiva ante riesgos graves, más que el resultado de un fallo de seguridad puntual.
«Si las plataformas de IA deciden permitir la generación de contenido erótico, deben implementarse de antemano medidas de protección sólidas, eficaces y verificables de forma independiente», argumentó, advirtiendo que «el contenido erótico generado por IA allana el camino para el material abusivo, incluido el CSAM [material de abuso sexual infantil]».
Lenaers espera tipificar como delito la posesión, la creación y la distribución de CSAM generado por IA en la próxima revisión de la Directiva CSA.
La organización británica de defensa de los derechos de los niños Internet Watch Foundation también quiere que se tomen medidas mucho más duras contra las herramientas digitales utilizadas para el abuso sexual. «Es fundamental que todas las formas de abuso sexual infantil en línea se tipifiquen como delito y se persigan, independientemente de cómo o por qué se hayan creado», declaró un portavoz a Euractiv, pidiendo una prohibición general en la UE de las aplicaciones utilizadas para «desnudar» imágenes de personas.
Según un informe publicado esta semana por AI Forensics, una ONG europea independiente, la mayoría (53 %) de las imágenes generadas por Grok contenían «personas con ropa mínima», de las cuales el 81 % eran mujeres y el 2 % parecían menores de 18 años. «Si las víctimas fueran hombres poderosos, X ya estaría fuera de línea», sugirió Geese.
Aunque X afirma haber eliminado todo el material CSAM potencialmente ilegal generado por Grok, Lenaers sostiene que, en el caso del contenido sexualizado, los riesgos son tan elevados que un régimen estándar de notificación y retirada «no es en absoluto una solución, ya que el daño a las víctimas ya se ha infligido y no se puede deshacer».
///
(Editado por nl, aw/Euractiv.com y Luis de Zubiaurre Wagner/Euractiv.es)
The post El modo «picante» de Grok, de Musk, anima a la UE a la toma de medidas drásticas appeared first on Euractiv.es.