Las empresas hacen muy poco contra los abusos sexuales a menores en Internet, según Londres

Londres/Bruselas (Euractiv.com/.es) – La ministra británica de Salvaguarda y Violencia contra Mujeres y Niñas, Jess Phillips, ha instado a las empresas tecnológicas europeas, en una entrevista con Euractiv, a hacer muchos más esfuerzos para desarrollar sistemas de detección de abusos «online».

La funcionaria participó en un acto organizado por el Parlamento y el Gobierno británicos para concienciar a las empresas sobre la necesidad de emprender una acción global contra los abusos sexuales a menores en Internet.

La Ley de Seguridad en Línea del Reino Unido (OSA), que entró en vigor en octubre de 2023, obliga a las empresas tecnológicas a garantizar que sus servicios estén libres de contenidos ilegales, incluido el material de abuso sexual infantil (CSAM).

Por su parte, la propuesta legislativa de la Unión Europea (UE) sobre CSAM establece un marco para que las empresas tecnológicas prevengan, detecten y eliminen este material de sus servicios, lo cual incluye los mensajes privados.

No obstante, las negociaciones se han atascado en el seno del Consejo debido a las reticencias de algunos socios comunitarios ante la posible vulneración de la privacidad de los servicios de mensajería cifrada, en los que sólo remitentes y destinatarios pueden acceder al contenido.

///

Un tema polémico en Reino Unido durante las negociaciones de la OSA, y en la UE ahora con la propuesta CSAM, el debate en torno al equilibrio entre la privacidad y la protección de los menores. ¿Qué opina?

Curiosamente, no es un tema polémico; se plantea en el Reino Unido, pero las negociaciones sobre el reglamento OSA se realizaron consultando a todas las partes. Así que no se produjeron las mismas disputas que ha habido en la UE.

Por otro lado, aunque la OSA cubre todos los servicios, incluidos los mensajes cifrados, al parecer sólo se aplicará cuando sea «técnicamente viable», lo cual  significa que los servicios cifrados podrían no ser escaneados. Teniendo esto en cuenta, ¿va la OSA lo suficientemente lejos?

La OSA es neutral  en relación con la tecnología; si tienes contenido ilegal en tu sitio, eres responsable de ello. No especifica de qué servicio se trata.

Estamos hablando de empresas tecnológicas que vuelan al espacio y fabrican coches sin conductor. Creo en ellas y en su capacidad para hacerlo posible.

No pido que analicen los mensajes de todo el mundo a ver lo que pueden encontrar. Les pido que detecten los hashtags específicos de imágenes de abusos a menores y otros contenidos ilegales.

¿Cómo garantizará su gobierno de que se incentiva a las empresas para que inviertan más en investigación para desarrollar tecnologías que permitan detectar mejor el material de abuso sexual infantil?

Trabajamos con las grandes empresas tecnológicas para comprobar si respetan los códigos de prácticas de seguridad por diseño (medidas que garantizan que los productos tecnológicos sean seguros desde su concepción), que forman parte de la OSA (…).

Yo no debería tener que incentivar a alguien para que quiera frenar el abuso infantil. Hago todo lo que puedo porque creo que el maltrato infantil está mal. Pido a los demás que hagan lo mismo. Creo que el mercado incentivará a las empresas tecnológicas a invertir.

No le corresponde al gobierno dar enormes subvenciones a las empresas para que sus plataformas sean seguras y estén libres de abusos a menores.

Confío en la preocupación real de ciudadanos y  padres en Reino Unido sobre la seguridad de sus hijos en esas plataformas. Creo que (la influencia) de los padres es mayor que la de los pedófilos.

Su gobierno está implementando normas para criminalizar aún más la posesión y creación de CSAM generado por Inteligencia Artificial (IA), pero también está cambiando su punto de vista sobre las normas de IA, con un impulso a la innovación. ¿Dónde está el punto de equilibrio? ¿Deberían tener más responsabilidades los creadores de IA?

Queremos aprovechar las oportunidades que brinda la innovación en IA. Pero como con cualquier avance tecnológico, siempre hay que garantizar, a priori, que es seguro.

Confiamos en trabajar junto a las empresas de IA en la seguridad por diseño. Si su modelo de IA puede utilizarse para CSAM, ¿qué se puede hacer para impedirlo? Imagino que los creadores de esta tecnología querrán introducir algunas de esas salvaguardas.

No se puede impedir que se cometan todos los delitos, pero cuando una herramienta que se utilizaba para algo totalmente legítimo se distorsiona para cometer abusos a menores o ultrafalsos (deepfakes), quienes crean esos contenidos, los comparten o ganan dinero compartiéndolos: apunto a todas esas personas.

¿Qué medidas concretas se están tomando a escala internacional para hacer frente a la difusión en línea de la pornografía infantil?

Creo que lo mejor para las grandes empresas es que los mercados mundiales tengan normas similares. Para las empresas es difícil y costoso que en la UE exista un sistema normativo distinto al de Reino Unido.

El caso más grave que he visto fue el de una niña estadounidense de 12 años que se suicidó en una retransmisión en directo porque un agresor de Irlanda del Norte utilizó Snapchat e Instagram para “captarla”.

La solución para que este tipo de cosas no sucedan pasa por la cooperación internacional, ya sea con protocolos de intercambio de seguridad o por la reglamentación de un espacio en línea. Por eso el gobierno británico está en contacto con otras jurisdicciones para explorar vías de cooperación.

La administración estadounidense ha insistido mucho en proteger a sus empresas tecnológicas para que no se vean obligadas a cumplir normas extranjeras que les resulten engorrosas o para evitar ser multadas de acuerdo con las normas de otros países. ¿Le preocupa esto a su Gobierno en lo que respecta a la OSE?

El Gobierno (del primer ministro británico, Keir Starmer) negocia con frecuencia con Estados Unidos. Hablaremos de ello, sin duda, pero no tengo motivos para pensar  que el gobierno estadounidense no esté totalmente de acuerdo conmigo en que los contenidos de abuso infantil o los contenidos ilegales en línea no deban combatirse con determinación y firmeza.

(…) OSA incluye un régimen de multas, pero es imposible decir en estos momentos qué desarrollo tendrá. Confío en que no habrá multas porque quiero que la seguridad se incorpore al diseño de las plataformas, ya sean estadounidenses o británicas.

///

(Editado por Fernando Heller/Euractiv.es)

The post Las empresas hacen muy poco contra los abusos sexuales a menores en Internet, según Londres appeared first on Euractiv.es.