🔍Combatir el reconocimiento facial🔭

verge

Oculta tus fotos con esta herramienta de privacidad de IA para engañar al reconocimiento facialcaras

El reconocimiento facial extendido es una seria amenaza para la privacidad. Es preocupante la idea de que las fotos que compartimos estén siendo recolectadas por empresas para entrenar algoritmos que se venden comercialmente. Cualquiera puede comprar estas herramientas, tomar una foto de un extraño y descubrir quiénes son en segundos. Pero los investigadores han encontrado una forma inteligente de ayudar a combatir este problema.

La solución es una herramienta llamada Fawkes y ha sido creada por científicos del Sand Lab de la Universidad de Chicago. El nombre procede de la máscara de Guy Fawkes que se ponen los revolucionarios en el cómic y la película V de Vendetta, Fawkes usa inteligencia artificial para alterar sutil y casi imperceptiblemente tus fotos con el fin de engañar a los sistemas de reconocimiento facial.

vLa forma en que funciona el software es un poco compleja. Pasar tus fotos a través de Fawkes no te hace invisible para el reconocimiento facial exactamente. En lugar de eso, el software realiza cambios sutiles en tus fotos para que cualquier algoritmo que escanee esas imágenes en el futuro lo vea como una persona completamente diferente. Esencialmente, ejecutar Fawkes en tus fotos es como agregar una máscara invisible a tus selfies.

Los científicos llaman a este proceso “encubrimiento” y está destinado a corromper el recurso que los sistemas de reconocimiento facial necesitan para funcionar: bases de datos de rostros extraídos de las redes sociales. La empresa de reconocimiento facial Clearview AI, por ejemplo, afirma haber recopilado unos tres mil millones de imágenes de rostros de sitios como Facebook, YouTube y Venmo, que utiliza para identificar extraños. Pero si las fotos que comparte en línea se han realizado a través de Fawkes, dicen los investigadores, entonces la cara que conocen los algoritmos no será la tuya.

Según el equipo de la Universidad de Chicago, Fawkes tiene un 100% de éxito frente a los servicios de reconocimiento facial de última generación de Microsoft (Azure Face), Amazon (Rekognition) y Face ++ del gigante tecnológico chino Megvii.

Lo que estamos haciendo es usar la foto encubierta en esencia como un caballo de Troya, para corromper modelos no autorizados para aprender lo incorrecto sobre lo que te hace parecer tú y no otra persona“, Ben Zhao, profesor de ciencias de la computación en la Universidad. de Chicago que ayudó a crear el software Fawkes, dijo a The Verge. “Una vez que ocurre la corrupción, estás continuamente protegido sin importar a dónde vayas o te vean“.

El grupo de trabajo está compuesto por: Shawn Shan, Emily Wenger, Jiayun Zhang, Huiying Li, Haitao Zheng y Ben Y. Zhao, publicaron un artículo sobre el algoritmo a principios de este año. Pero a fines del mes pasado también lanzaron Fawkes como software libre para Windows y Mac, que cualquiera puede descargar y usar. Hasta la fecha, dicen que ha habido más de 10.000 descargas.

guyAlgunos que lo han probado dicen que Fawkes es escaso en su diseño pero muy fácil de aplicar. Se necesitan un par de minutos para procesar cada imagen y los cambios que realiza son casi imperceptibles. A principios de esta semana, The New York Times publicó una historia sobre Fawkes en la que señalaba que el efecto de camuflaje era bastante obvio, y a menudo realizaba cambios de género en las imágenes, como ponerle bigotes a las mujeres. Pero el equipo de Fawkes dice que el algoritmo actualizado es mucho más sutil y las propias pruebas de The Verge están de acuerdo con esto.

Pero, ¿es Fawkes una solución milagrosa para la privacidad? Es dudoso. Para empezar, está el problema de la adopción. Si lees este artículo y decides usar Fawkes para ocultar cualquier foto que subas a las redes sociales en el futuro, ciertamente serás una minoría. El reconocimiento facial es preocupante porque es una tendencia de toda la sociedad y, por lo tanto, la solución debe ser también para toda la sociedad. Si solo los expertos en tecnología protegen sus selfies, solo crea desigualdad y discriminación.

En segundo lugar, muchas empresas que venden algoritmos de reconocimiento facial crearon sus bases de datos de rostros hace mucho tiempo, y no se puede recuperar esa información de forma retroactiva. El director ejecutivo de Clearview, Hoan Ton-That, lo declaró al Times. “Hay miles de millones de fotos sin modificar en Internet, todas en diferentes nombres de dominio“, dijo Ton-That. “En la práctica, es casi seguro que es demasiado tarde para perfeccionar una tecnología como Fawkes e implementarla a escala“.

doscaras

Sin embargo, naturalmente, el equipo detrás de Fawkes no está de acuerdo con esta evaluación. Señalan que, aunque empresas como Clearview afirman tener miles de millones de fotos, eso no significa mucho, teniendo en cuenta que se supone que deben identificar a cientos de millones de usuarios. “Es probable que, para muchas personas, Clearview solo haya una cantidad muy pequeña de fotos de acceso público”, dice Zhao. Y si la gente publica más fotos encubiertas en el futuro, dice, tarde o temprano, la cantidad de imágenes encubiertas superará en número a las no encubiertas.

En el frente de la adopción, el equipo de Fawkes admite que para que su software marque una diferencia real, debe ser lanzado más ampliamente. No tienen planes de crear una aplicación web o móvil debido a problemas de seguridad, pero tienen la esperanza de que empresas como Facebook puedan integrar tecnología similar en su propia plataforma en el futuro.

🇯🇴 Otra mujer palestina asesinada por militares israelíes en la ciudad de Jenin

🇧🇴  Bolivia. Evo Morales y Lucho Arce alertan de un nuevo golpe militar y más masacres /Aviones vuelan amenazantes en varias poblaciones 

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: