l 17 de marzo, EDRi fue una de las 47 organizaciones de la sociedad civil que pidieron a la Comisión Europea que garantizara que la futura «Legislación para abordar eficazmente el abuso sexual infantil» cumpliera su objetivo de proteger a los niños y al mismo tiempo respetar el marco de derechos fundamentales de la UE.
Desde entonces, una filtración impactante ha confirmado nuestros peores temores de que la propuesta obligaría a los proveedores de mensajes, chats y servicios de correo electrónico basados en la web en la UE a aplicar escaneos peligrosos y defectuosos a todos nuestros mensajes privados, ¡incluso aquellos que están encriptados!
Como aún no hemos recibido una respuesta de ninguno de los comisarios, ni de la presidenta de la Comisión, Ursula von der Leyen, decidimos hacer un seguimiento para remarcar nuestra preocupación. Además, pedimos que se aseguren de que cualquier legislación presentada por la UE cumpla con los criterios de necesidad y proporcionalidad de los derechos fundamentales y, además, que no obligue a los servicios europeos a realizar prácticas ilegales. En una Unión democrática y respetuosa del Estado de derecho, esto no debería ser mucho pedir.
Entonces, sin más preámbulos, esto es lo que tenemos que decir:
Estimada presidenta de la Comisión Europea, Ursula von der Leyen,
Le escribimos para dar seguimiento a la carta abierta de la sociedad civil que le enviamos el mes pasado sobre la próxima «Legislación para abordar de manera efectiva el abuso sexual infantil«. La carta ya ha sido firmada por un total de 45 organizaciones que trabajan por los derechos y las libertades en toda Europa, y el apoyo sigue creciendo.
Le instamos a que preste atención a las inquietudes que planteamos y a que utilice sus poderes ejecutivos para asegurarse de que la Comisión no presente una propuesta que socave la prohibición del TJUE sobre espionaje en general o someta a los europeos a un seguimiento que convertiría sus dispositivos en software espía
En particular, nos gustaría resaltar que desde que le enviamos nuestra carta, la Opinión filtrada de la Junta de Escrutinio Regulador (RSB) ha revelado la impactante noticia de que la próxima propuesta busca ordenar el espionaje generalizado, incluso en entornos encriptados. El método que se utilizaría para dicha detección es el «Escaneo del lado del cliente» (CSS), un método fundamentalmente defectuoso que, según los expertos, socava el cifrado:
- En este documento, 14 de los principales expertos en ciberseguridad del mundo explican cómo CSS deja vulnerables los dispositivos de todas las personas a los piratas informáticos, delincuentes y otros actores malintencionados.
- En este artículo, dos informáticos de Princeton explican que el análisis de CSAM en entornos cifrados tiene fallas técnicas fundamentales e insuperables.
- En este artículo, los expertos en seguridad de la EFF explican otros riesgos de CSS
Además, el dictamen de RSB reveló que el contenido «desconocido» también estaría dentro del alcance de estas reglas. Le recordamos que las herramientas de IA son notoriamente imprecisas en tales tareas y deficientes para interpretar el contexto. Tales requerimientos no solo serían muy invasivos, sino que también expondrían a las personas a una gran cantidad de informes erróneos. Por ejemplo, en un período de solo 53 días en 2021, Meta descubrió que sus sistemas habían señalado erróneamente al menos a 207 personas de intercambio de CSAM en la UE, con 4500 personas adicionales presentando quejas.
Ampliado a lo largo del tiempo y en múltiples servicios/plataformas, este volumen de acusaciones injustas podría ascender a una gran cantidad de personas acusadas falsamente. Debido a la cantidad de mensajería privada en la UE, este es el caso incluso si, como afirman algunos proveedores de tales tecnologías, sus sistemas tienen una alta precisión teórica. Sin embargo, tenemos muchas razones para dudar de esta afirmación de alta precisión. En 2021, por ejemplo, LinkedIn descubrió que solo 31 de los 75 archivos identificados por PhotoDNA como CSAM eran en realidad CSAM; lo que significa que la tasa de precisión fue solo del 41%.
Creemos que si la próxima legislación exige un análisis generalizado, la legislación para abordar de manera efectiva el abuso sexual infantil no será adecuada para su propósito y será más vulnerable a la impugnación legal.
Si la Comisión Europea decide proponer una derogación a largo plazo de la Directiva de privacidad electrónica, debe garantizar los más altos estándares de necesidad y proporcionalidad. Además, las prácticas «voluntarias» actuales de los proveedores deben ser revisadas por las autoridades de protección de datos (DPA) bajo la guía del Consejo Europeo de Protección de Datos (EDPB) y el Supervisor Europeo de Protección de Datos (EDPS). Si las autoridades de protección de datos consideran que estas prácticas actuales son legales, deberían limitarse a buscar imágenes conocidas, con mecanismos muy mejorados para la transparencia, la responsabilidad, la supervisión y la protección de los derechos humanos en comparación al menos con el Reglamento provisional.
eulaliobe 