Combatir la pedofilia a costa de nuestra privacidad: la norma de la UE que puede romper internet | Tecnología

La violencia machista es una de las grandes lacras de la sociedad. Pero, ¿estaríamos dispuestos a tener una cámara de seguridad grabando las 24 horas del día en cada habitación del país para erradicarla? Bruselas propone un dilema similar para combatir la difusión digital de pornografía pueril. La UE va a animarse en las próximas semanas si aprueba un reglamento que obliga a las tecnológicas a revisar las comunicaciones privadas de los usuarios para detectar contenidos pedófilos. Si sale delante, implicará el escaneo involuntario de cada mensaje, foto, vídeo, post o email que se intercambie en suelo europeo siempre que haya sospecha de que contenga material ilegal.

Algunas, como Apple, tienen sus reservas con esta iniciativa al considerar prioritario defender la privacidad de los usuarios. Esa postura le ha granjeado una campaña en su contra en Estados Unidos, donde, como en Reino Unido, se está discutiendo una legislatura similar a la europea. La compañía prefiere no hacer comentarios sobre la campaña ni sobre las regulaciones.

Cientos de adémicos e ingenieros y organizaciones sin humor de provecho como Reporteros Sin Fronteras, así como el Consejo de Europa, creen que la legislatura supondría martirizar la confidencialidad en internet, y que ese precio es inasumible para las democracias. El Supervisor Europeo de Protección de Datos, que prepara una proclamación sobre ello para finales de octubre, ha dicho que “podría convertirse en la cojín del escaneado generalizado e indiscriminado de facto de todas las comunicaciones de la UE”. La propuesta de reglamento, conocida como Chat Control, responsabiliza a las empresas proveedoras de servicios de comunicación de que no circule material denunciable. Si tras someterse a una evaluación de riesgos se determina que son un canal apropiado para los pederastas, deberán poner en marcha cribados automáticos.

Detrás de las vallas publicitarias y páginas en los periódicos que reclaman a Apple que detecte material pedófilo en iCloud estaría una ordenamiento sin humor de provecho, Heat Initiative, abonada a la cruzada contra la encriptación de las comunicaciones (conocida en EE UU como Crypto Wars). Este movimiento ha pasado de servirse la lucha contra el terrorismo a escudarse en la difusión de pornografía pueril para solicitar el fin de los mensajes cifrados, la última gran bolsa de privacidad que queda en internet. “Es significativo que EE UU, la UE y Reino Unido estén tramitando al mismo tiempo normativas que, en la ejercicio, cercenarán las comunicaciones encriptadas. Parece un esfuerzo coordinado”, dice Diego Naranjo, responsable de políticas públicas de la ONG en defensa de los derechos digitales EDRi.

Hay otras empresas tecnológicas que sí ven con buenos fanales Chat Control. Destaca entre ellas la estadounidense Thorn, creada por el actor y patrón Ashton Kutcher y su entonces esposa, Demi Moore. Una fresco investigación periodística ha revelado que la Comisión ha intercambiado información sensible sobre la marcha de las negociaciones del reglamento con la empresa, que se presenta como una ONG, pero lleva a final importantes acciones de lobby y tiene intereses comerciales en el asunto. El producto fortuna de Thorn es un software que se apoyo en PhotoDNA, de Microsoft, y tiene el apoyo técnico de AWS, la división de la nimbo de Amazon. El software está diseñado para detectar exceso a menores al cruzar títulos hash (una especie de matrícula alfanumérica) de imágenes y vídeos subidos a internet con una cojín de datos de millones de imágenes conocidas de material de exceso sexual pueril.

Un seguridad delicado

“Resulta increíble que todavía no tengamos una regulación en la UE sobre el exceso pueril online. Me siento como una pionera con esta propuesta”, dijo la comisaria de Interior, Ylva Johansson, en una fresco entrevista en este folleto. “Claro que hay que proteger a los niños, la cuestión es cómo”, asegura Carmela Troncoso, investigadora española de la Escuela Politécnica Federal de Lausana y líder del equipo de científicos que desarrolló el protocolo de privacidad de las aplicaciones de rastreo de la Covid. “Hay dos preguntas a plantearse sobre su propuesta: primero, si verdaderamente va a proteger a los niños, y segundo, si puede hacerlo sin ningún aventura. Y la respuesta a ambas es que no”.

“El principal problema que plantea esta tecnología a los ciudadanos es que el contenido pedófilo se detectará usando herramientas automáticas de inteligencia industrial (IA)”, opina Bart Preneel, catedrático de criptografía y privacidad de la Universidad Católica de Lovaina y autor de un noticia técnico para el Parlamento Europeo en el que expone las carencias del sistema. “Thorn [la empresa de Kutcher de escaneado de comunicaciones] dice que su sistema da un 10% de falsos positivos. Como los europeos intercambian miles de millones de mensajes diarios, eso significa que decenas de millones de personas serán acusadas cada día. Aunque sean inocentes, su información será procesada y almacenada por las fuerzas de seguridad, y si se filtra, su reputación quedará impactada”.

Cada vez que escribimos un mensaje en plataformas como WhatsApp, Telegram o Signal, esa comunicación se guarismo. Solo el destinatario tiene la secreto para poder abrirla. Es lo que se conoce como encriptación de extremo a extremo, un mecanismo que garantiza que nadie más que emisor y receptor accedan al contenido. La legislatura Chat Control sostiene que no hace desidia zanjar con la encriptación: bastaría con revisar los mensajes en el propio dispositivo ayer de mandar el contenido y cuando este llega a su destino.

“El argumento de que esta tecnología no rompe el enigmático es de una ignorancia técnica tremenda”, sostiene Troncoso. “Si miras ayer, aunque no toques el operación ni la secreto, por supuesto que rompes el enigmático. Es como aseverar que si cierto lee una carta ayer de meterla en el sobre y el sobre llega cerrado a su destino, la confidencialidad no se rompe”.

“Se fuerza a las compañías a romper su propio enigmático para escanear los mensajes ayer de que se envíen a su destinatario. El problema es que no hay forma de implementar esos métodos y preservar al mismo tiempo la privacidad. Y si rompes la encriptación, invitas a que pasen los hackers. No existen las puertas traseras que solo puedan usar los buenos”, argumenta Andy Yen, fundador y CEO de Proton, la desarrolladora del servicio de correo electrónico encriptado Proton Mail. “Chat Control negociación de combatir el serio problema de los contenidos ilegales mediante la creación de otro problema serio: zanjar con el derecho a la privacidad”, prosigue Yen. Sin bloqueo, un noticia reglamentario encargado por las instituciones comunitarias concluye que el reglamento que se está discutiendo podría “admitir a una vigilancia de facto permanente de las comunicaciones interpersonales”, lo que es ilegal en la UE.

Las técnicas de escaneado que plantea la UE, encima, son fáciles de escamotear. Según explica el profesor Preneel, bastaría con cambiar algunos bits de las imágenes perseguidas (las que están almacenadas en la cojín de datos contra la que se compararán las comunicaciones) para que el operación no establezca una coincidencia y no suenen las alarmas.

Negociaciones abiertas

Bruselas lleva dos abriles trabajando en una legislatura que permita escanear las comunicaciones privadas para combatir la difusión de contenidos pedófilos, que solo en 2022 suscitaron 1,5 millones de reportes de las compañías de internet recopilando cinco millones de vídeos y fotos y actividades de grooming (cuando un adulto se pone en contacto con un pequeño para ganarse su confianza para luego involucrarle en una actividad sexual). En mayo del año pasado, la Comisión propuso un goma de reglamento en el que trabajan desde entonces el Parlamento Europeo y el Consejo.

La intención de la Presidencia española de la UE es aprobar la legislatura ayer de que acabe su mandato (31 de diciembre), aunque es probable que no cumpla ese plazo. En estos momentos, el goma está irresoluto de ser debatido en el Comité de Libertades Públicas del Parlamento Europeo (LIBE), que votará el texto el 26 de octubre. “Las negociaciones entre los grupos están discurriendo admisiblemente. Lo que estamos debatiendo ahora son las órdenes de detección”, explica a EL PAÍS el eurodiputado del Partido Popular Europeo Javier Zarzalejos, ponente de la propuesta de reglamento. Se refiere a cuándo y cómo se obligará a las proveedoras de servicios de internet que no hayan conseguido frenar la difusión de pornografía pueril por otros medios a escanear las comunicaciones. “Es el aparato de posterior petición y anciano intensidad en lo que se refiere a la capacidad de detección de este tipo de material. La idea de que vamos a ser sometidos al escaneo masivo y sistemático de nuestras comunicaciones es absurda y no se va a producir. Ni es posible técnicamente ni tiene ningún sentido”, zanja quien fuera en 1999 uno de los emisarios del expresidente José María Aznar para entablar conversaciones con ETA.

El documento está siendo revisado incluso en el Consejo, el entraña de la UE que reúne a representantes de los gobiernos de los 27, que previsiblemente lo debatirá el 19 de octubre. Siquiera aquí hay consenso. Una decena de países (Alemania, Austria, Estonia, Finlandia, Francia, Países Bajos, Polonia, Portugal, República Checa y Suecia) se oponen al texto presentado por la Presidencia española. Entre los principales defensores de la propuesta se cuentan Hungría, Finlandia o España.

Según publicó Wired en mayo citando fuentes oficiales del Gobierno de España, la posición de Madrid es que “sería deseable organizar legislativamente a los proveedores de servicios que implementen encriptación de extremo a extremo”. El Profesión de Interior niega a este folleto la fiabilidad de esa información.

Cuando el Parlamento Europeo y el Consejo fijen su posición, será el momento de los llamados trílogos, una negociación entre estas dos instituciones y la Comisión que acabará de dar forma al documento final.

¿Soluciones digitales para un problema físico?

Otra de las críticas a las que se enfrenta la legislatura es que negociación de resolver con medios técnicos poco que no se circunscribe al ámbito digital. “El exceso pueril no es un problema tecnológico, no existe el exceso online. Estos crímenes se cometen en el mundo físico, no pueden arreglarse con tecnología”, asevera Troncoso.

El reglamento impulsado por la comisaria de Interior no contempla medidas como el refuerzo de mecanismos para que los menores puedan denunciar ataques o la auxilio social para atender el entorno conocido y de conocidos, al que suelen pertenecer los perpetradores de abusos.

“Es extremadamente formal que en la propuesta de reglamento no haya ni una sola carrera de prevención ni de estrategias para topar socialmente el exceso sexual. La ley usa el exceso contra niños para atacar a la estructura y casa de internet”, indica por su parte Simona Levy, del colectivo Xnet, muy beligerante con Chat Control.

¿Qué pasa si el reglamento acaba entrando en vigor tal y como lo conocemos ahora? “Sería una muy mala comunicación. La dicotomía entre seguridad y privacidad es falsa. En común, a más privacidad, más seguridad, y no lo contrario. Cualquier persona que haya vivido en un país peligroso tiene un conocimiento intuitivo de cómo la privacidad se usa para proteger a los individuos”, reflexiona la filósofa Carissa Véliz. “Cuando cedemos privacidad estamos perdiendo seguridad y erosionando la democracia. En un estado policiaco en el que hubiera una vigilancia total sería impracticable cometer un crimen, pero ¿a qué precio?”.

Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para admitir nuestra newsletter semanal.