🏛Parlamento europeo y vigilancia masiva🇪🇺

euparlamentoPuntos clave

  • La resolución del Parlamento Europeo sobre la inteligencia artificial en el derecho penal y su uso por parte de la policía y las autoridades judiciales en materia penal refleja la necesidad de una regulación más estricta de las tecnologías de IA.
  • La resolución para prohibir el uso del reconocimiento facial en espacios públicos es un paso importante en la lucha contra la vigilancia masiva.
  • Esta resolución ofrece la oportunidad de reconsiderar el papel de la UE en el desarrollo y la venta de tecnologías de IA utilizadas para la aplicación de la ley por parte de terceros países.

Introducción

Eel Parlamento Europeo ha aprobado una resolución no vinculante contra el uso de la inteligencia artificial (IA) por parte de las fuerzas del orden en los espacios públicos y la prohibición de las bases de datos de reconocimiento facial, como las utilizadas por Clearview AI.

A police officer using social media surveillance technology.

Se trata de un paso importante y muy bienvenido en una campaña en curso para garantizar que la UE sea líder mundial en la protección contra las aplicaciones peligrosas de la IA dentro de sus fronteras.

La Resolución reconoce la necesidad de protegerse contra la aplicación de la IA y las tecnologías de vigilancia masiva en Europa. Pero, si estas técnicas suponen un riesgo inaceptable para las personas dentro de las fronteras de la UE, se deduce que también suponen riesgos inaceptables para las personas que viven fuera de ellas. En consecuencia, la UE y sus Estados miembros deben hacer todo lo posible para garantizar que no contribuyen al creciente uso de dichas técnicas en todo el mundo.

Antecedentes

La resolución pretende reducir los perjuicios que supone el uso de la IA en la aplicación de la ley, como los prejuicios y la discriminación que llevan a vigilar en exceso a las minorías étnicas. Otro riesgo está relacionado con la clasificación e identificación erróneas de personas pertenecientes a determinadas comunidades étnicas, personas LGBTI, niños y ancianos, así como mujeres.

A través de esta resolución, el Parlamento Europeo votó a favor de reforzar las salvaguardias en torno al uso de tecnologías artificiales en la aplicación de la ley. Algunas de estas salvaguardias previstas son que los algoritmos de inteligencia artificial utilizados en las tecnologías policiales sean explicables, transparentes, rastreables y verificables. Se espera que la petición del Parlamento Europeo de reforzar las salvaguardias influya en los debates y la votación de la Comisión Europea sobre la Ley de Inteligencia Artificial.

European Digital Rights, que coordina una campaña de la sociedad civil en toda Europa para prohibir la vigilancia masiva biométrica, de la que forma parte Privacy International, tiene más detalles sobre la postura del Parlamento Europeo.

Reflexiones sobre esta votación

En un discurso en el pleno, el vicepresidente del Parlamento Europeo, Marcel Kolaja, describió la prohibición del uso del reconocimiento facial en espacios públicos como «…un paso importante en la lucha contra la vigilancia masiva«.

Aunque la resolución del Parlamento Europeo no es vinculante, es una oportunidad para reflexionar sobre la relación de la Comisión Europea con las tecnologías de inteligencia artificial para la aplicación de la ley, así como con las tecnologías de vigilancia masiva en general.

potcastUn tema consistente en la resolución sobre la prohibición de las tecnologías artificiales en la aplicación de la ley y la policía predictiva es que estas tecnologías pueden infringir el derecho a la privacidad y el derecho a la dignidad humana. Estos dos derechos fundamentales tienen una aplicación universal que trasciende las fronteras geográficas. Por ello, si estas tecnologías no son aptas para su uso en los Estados de la Unión Europea, lógicamente no deberían serlo en ninguna otra parte del mundo.

Las decisiones del Parlamento Europeo no siempre reflejan las de la Comisión Europea, ya que se trata de dos órganos distintos. Pero esta votación deja claro que los europeos (representados por los eurodiputados) no están a favor del uso de la inteligencia artificial en la aplicación de la ley y, por extensión, de las tecnologías de vigilancia masiva.

Como primer paso, la UE debe asegurarse de que deja de proporcionar millones de euros a las empresas de vigilancia, las universidades y las agencias gubernamentales para desarrollar las mismas tecnologías de vigilancia masiva en cuestión como parte de su programa de investigación.

Los líderes europeos también deben asegurarse de tomar medidas para impedir que las empresas europeas vendan estas tecnologías a países de todo el mundo, incluidos los autoritarios. Esto puede hacerse en el marco del Reglamento de doble uso de la UE que regula las exportaciones de tecnología de vigilancia en toda Europa, que ha sido reformado recientemente y que permite a las autoridades detener dichas exportaciones.

Además, los programas de lucha contra la inmigración y el terrorismo en el cuerno de África, el norte y el centro de África, y los Balcanes, desarrollados con el apoyo de distintos fondos europeos son elementos que podrían permitir también la vigilancia masiva en esos terceros países.

La resolución del Parlamento Europeo pide que se lleven a cabo  evaluaciones de riesgo antes de utilizar las tecnologías artificiales en la aplicación de la ley para determinar que la adopción de estas tecnologías es «...segura, robusta, protegida y adecuada a su finalidad, respetando los principios de equidad, minimización de datos, responsabilidad, transparencia, no discriminación y explicabilidad«.

Por lo tanto, se deduce que estas mismas evaluaciones de riesgo deberían llevarse a cabo en toda la cartera de la UE. Sin embargo, PI no ha encontrado ninguna información disponible públicamente que demuestre que la UE lleva a cabo en la actualidad este tipo de evaluaciones sólidas antes de donar o financiar el uso de tecnologías que puedan utilizarse o reutilizarse para la vigilancia masiva en terceros países.

Conclusión

La votación de esta semana es un paso enormemente bienvenido frente a la dura oposición: hay que felicitar a los parlamentarios que decidieron dar prioridad a los intereses de las personas. Envía una fuerte señal de que el Parlamento protegerá a quienes representa.

También es una señal fuerte de que la aplicación de la IA y las técnicas de vigilancia masiva no deben tolerarse en una sociedad democrática y que la UE tiene un papel que desempeñar para garantizar la protección y la promoción de los derechos humanos dentro de sus fronteras.

Aunque la UE no tiene ningún mandato para proteger estos derechos en terceros países, la UE no debe contribuir activamente a la restricción del disfrute de esos derechos; ya sea que esta infracción se produzca mediante el desarrollo de dichas herramientas, su venta o como parte de las políticas antiterroristas y antiinmigración de la UE en el extranjero.

El artículo ha sido publicado por primera vez por el miembro de EDRi, Privacy International, aquí.

Crédito de la imagen: Ben White / Unsplash

tiraecol-179.png

🏴Rudolf Rocker: Itinerario de un activista y teórico anarquista

🎥¿A quién calma Maixabel?

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: