El Parlamento Europeo, dividido sobre la prohibición de las apps de pornificación con IA

Bruselas (Euractiv)- Los principales legisladores del Parlamento Europeo están divididos sobre la prohibición de las aplicaciones de pornificación con IA, como el chatbot Grok de Elon Musk, en virtud de la normativa de la UE sobre IA, según ha podido saber Euractiv.

El vehículo legal por el que podría aprobarse la prohibición es el paquete de simplificación de la IA, que actualmente se está tramitando en el Parlamento y el Consejo. La comisión jurídica del Parlamento es una de las que ha pedido la prohibición en su dictamen sobre la propuesta de IA de la semana pasada.

En los últimos meses, Grok desató una protesta mundial después de que la herramienta de chatbot de IA se utilizara para generar imágenes en las que se desnudaba digitalmente a mujeres y niños sin su consentimiento. Sin embargo, la Comisión propuso el paquete Ómnibus sobre IA en noviembre, antes de que Grok pusiera de relieve el problema de las aplicaciones de desnudez con IA.  

Considerar la función de pornificación de Grok como «ilegal»

Los reguladores de la UE respondieron a la indignación por Grok en enero abriendo una investigación en virtud de la Ley de Servicios Digitales (DSA) de la Unión, que regula la plataforma de redes sociales X de Musk, en la que está integrado el chatbot de IA.  La Comisión también ha calificado la función de pornificación de Grok como «ilegal» según las normas digitales vigentes en la UE.

Sin embargo, algunos parlamentarios están presionando para que las herramientas de IA de pornificación se incluyan explícitamente en una lista de usos prohibidos recogida en la Ley de IA, con el fin de prohibir de forma inequívoca dichas herramientas en la UE. 

Como ha informado Euractiv hoy, dos de los principales legisladores del paquete de simplificación de la IA, Arba Kokalari, del PPE, y Michael McNamara, de Renew, no han incluido ninguna disposición para prohibir las herramientas de pornificación en su proyecto de posición del Parlamento. «Hubo cuestiones en las que los ponentes no llegaron a un acuerdo, así como otras en las que sí lo hicieron», declaró McNamara a Euractiv. «La cuestión de las herramientas de nudificación se encontraba entre las primeras». El eurodiputado irlandés había declarado públicamente anteriormente que apoyaba la prohibición. Kokalari no respondió de inmediato a la solicitud de comentarios de Euractiv.

Varias fuentes de otros grupos políticos dijeron a Euractiv que se estaba debatiendo si debían proponer una prohibición en sus enmiendas al paquete de simplificación.

Los grupos también siguen divididos sobre cómo lograr dicha prohibición dentro del paquete general sobre IA. «Hay varias personas que desean prohibir las aplicaciones de nudificación», declaró a Euractiv un funcionario parlamentario cercano a los debates.  Los ponentes alternativos tendrán hasta la fecha límite de la próxima semana para presentar enmiendas y tomar una decisión.

Por su parte, la Comisión parece abierta a la idea. Durante una rueda de prensa en la que se dio a conocer la investigación de la DSA sobre Grok, un funcionario de la UE sugirió que el paquete Ómnibus sobre IA podría ser «el momento adecuado» para abordar las aplicaciones de desnudez.

///

(Editado por nl/Euractiv.com y Luis de Zubiaurre Wagner/Euractiv.es)

The post El Parlamento Europeo, dividido sobre la prohibición de las apps de pornificación con IA appeared first on Euractiv.es.