finales del pasado año, Valerie Peter, una estudiante de veintitrés años de Manchester, Inglaterra, se dio cuenta de que tenía un problema con las compras en línea. No se trataba de lo que compraba sino de cuánto. Unos calentadores de piernas peludos se habían infiltrado en las redes sociales de Peter: TikTok, Instagram, Pinterest no hacían más que mostrarlos y recomendarlos. Siempre había considerado los calentadores de piernas «feos, espantosos, ridículos«, comentó no ha mucho, pero sin embargo, de pronto «ni se sabe como, de alguna manera mágica terminó con un par de ellos«, que compró en línea con solo presionar un botón, en un capricho casi subconsciente. (Los usé solo unas pocas veces. “Están en el fondo de mi armario”, dijo). Igual sucedería posteriormente con las joyas Van Cleef & Arpels, después de que un miembro del elenco del programa de telerrealidad del Reino Unido “Love Island” apareciera con un collar de la marca en pantalla. Los brazaletes de flores estilo Art Nouveau de Van Cleef aparecieron en el TikTok de Peter, y se encontró navegando por los productos de la marca. El bombardeo hizo que se preguntara: “¿Soy yo? ¿Es este mi estilo?«.
Bastante confusa, Peter escribió un correo en busca de consejo a Rachel Tashjian, una crítica de moda que escribe un popular boletín llamado «Opulent Tips«. “Llevo en Internet los últimos 10 años y no sé si deseo lo que me gusta, o lo que un algoritmo quiere que me guste”, escribió Peter. Había llegado a ver las recomendaciones algorítmicas de las redes sociales como una especie de intrusión psíquica, remodelando subrepticiamente lo que se muestra en línea y, por lo tanto, la comprensión de sus propias inclinaciones y gustos. “Quiero cosas que realmente me gusten, no lo que me están inculcando discretamente”, continuaba el correo.
Por supuesto, los consumidores siempre han sido el blanco de publicidad manipuladora. Un anuncio publicitario omnipresente en una valla publicitaria o un comercial de televisión pueden colarse en tu cerebro y hacerte pensar que necesitas comprar, por ejemplo, una nueva pieza de equipo de ejercicio habilitado para video inmediatamente. Pero las redes sociales siempre han pretendido mostrarnos cosas que nos gustan, cosas que podrían haber gravitado orgánicamente hacia nosotros. ¿Por qué, entonces, puede parecer que todo el ecosistema de contenido con el que interactuamos en línea ha sido diseñado para influir en nosotros de maneras que no podemos analizar y que solo tienen una relación distante con nuestras preferencias auténticas? Ninguna marca promocionaba calentadores de piernas para Peter. Ninguna pieza de esponja era responsable de vender sus joyas Van Cleef. Más bien, “el algoritmo”, esa entidad vaga, sombría e inhumana a la que se refería en su correo electrónico, había decidido que lo que iba a ver eran calentadores de piernas y joyas.
El dilema de Peter me trajo a la memoria un término que se ha utilizado, en los últimos años, para describir el sentimiento del usuario moderno de Internet de que debe lidiar constantemente con las estimaciones mecánicas de sus deseos: ansiedad algorítmica. Asediados por recomendaciones automáticas, nos queda adivinar exactamente cómo nos están influenciando, sintiéndonos en algunos momentos mal percibidos o engañados y en otros momentos cronometrados con una precisión inquietante. A veces, el ordenador parece tener más control sobre nuestras elecciones que nosotros.
Un algoritmo, en matemáticas, es simplemente un conjunto de pasos que se dan para realizar un cálculo, ya sea la fórmula del área de un triángulo o las líneas de una prueba compleja. Pero cuando hablamos de algoritmos en línea, generalmente nos referimos a lo que los desarrolladores llaman «sistemas de recomendación«, que se han empleado desde la llegada de la informática personal para ayudar a los usuarios a indexar y clasificar montones de contenido digital. En 1992, los ingenieros del Centro de Investigación de Palo Alto de Xerox crearon un sistema algorítmico llamado Tapestry para calificar los correos electrónicos entrantes por relevancia, utilizando factores como quién había abierto un mensaje y cómo había reaccionado ante él (también conocido como «filtrado colaborativo»). Dos años después, investigadores del M.I.T. Media Lab crearon Ringo, un sistema de recomendación musical que funcionaba comparando los gustos de los usuarios con otros a los que les gustaban músicos similares. (Lo llamaron “filtrado de información social”). La herramienta de búsqueda original de Google, de 1998, fue impulsada por PageRank, un algoritmo temprano para medir la importancia relativa de una página web.
Sin embargo, solo a mediados de la última década, los sistemas de recomendación se han convertido en una parte generalizada de la vida en línea. Facebook, Twitter e Instagram se alejaron de los feeds cronológicos, que mostraban los mensajes en el orden en que se publicaban, a otros más secuenciados algorítmicamente, que mostraban lo que las plataformas determinaban que sería más atractivo para el usuario. Spotify y Netflix introdujeron interfaces personalizadas que buscaban satisfacer los gustos de cada usuario. (Top Picks para KyleTales hicieron cambios para que las plataformas se sintieran menos predecibles y menos transparentes. Lo que veías nunca era exactamente igual a lo que veían los demás. No podías contar con que un feed funcionara de la misma manera de un mes a otro. La semana pasada, Facebook implementó una nueva pestaña de Inicio predeterminada en su aplicación que prioriza el contenido recomendado en la línea de TikTok, su principal competidor.
Casi todas las demás plataformas importantes de Internet utilizan algún tipo de recomendación algorítmica. Google Maps calcula las rutas de manejo utilizando variables no especificadas, incluidos los patrones de tráfico previstos y la eficiencia del combustible, desviándonos a mitad del viaje de maneras que pueden ser más convenientes o pueden desviarnos. La aplicación de entrega de alimentos Seamless carga por adelantado los elementos del menú que predice que le podrían gustar en función de sus hábitos de pedido recientes, la hora del día y lo que es «popular en su entorno«. Los sistemas de correo electrónico y mensajes de texto brindan predicciones sobre lo que está a punto de escribir. («¡Entendido!») Puede parecer que cada aplicación está tratando de adivinar lo que quieres antes de que tu cerebro tenga tiempo de dar su propia respuesta, como un detestable invitado a una fiesta que termina tus frases antes de que tu las finalices. Estamos constantemente negociando con la molesta figura del algoritmo, inseguros de cómo nos habríamos comportado si nos hubiéran dejado solos. No es de extrañar que nos pongamos ansiosos. En un ensayo reciente para Pitchfork, Jeremy D. Larson describió una sensación persistente de que las recomendaciones algorítmicas de Spotify y las listas de reproducción automatizadas estaban drenando el placer de escuchar música al interrumpir el proceso de descubrimiento orgánico: «Aunque tiene más música de la que nunca he querido, no por ellos resulta necesariamente más gratificante, emocional o personal”.
Los académicos han propuesto varios términos para definir nuestra relación irregular con la tecnología algorítmica. En un artículo de 2017, Taina Bucher, profesora de la Universidad de Oslo, recopiló tuits ofendidos sobre el feed de Facebook como un registro de lo que llamó un «imaginario algorítmico» emergente. Un usuario se preguntaba por qué sus búsquedas de un regalo de baby shower aparentemente habían generado anuncios de aplicaciones de seguimiento del embarazo. Un músico estaba frustrado porque sus publicaciones en las que compartía nuevas canciones recibían poca atención, a pesar de sus mejores intentos de optimizar para la promoción, por ejemplo, al incluir frases exclamativas como «¡Guau!». Se estaba creando una «estructura de sentimientos» en torno al algoritmo, me dijo Bucher, y agregó: «La gente notaba que había algo en estos sistemas que tenía un impacto en sus vidas«. Casi al mismo tiempo, Tarleton Gillespie, un académico que trabaja para la subsidiaria de investigación de Microsoft, describió cómo los usuarios estaban aprendiendo a dar forma a lo que publicaban para maximizar su «reconocibilidad algorítmica«, un esfuerzo que comparó con un orador que «gira hacia el micrófono» para amplificar su voz. El contenido vivía o moría por S.E.O., u optimización de motores de búsqueda, y aquellos que aprendieron a explotar sus reglas adquirieron poderes especiales. Gillespie cita, como ejemplo, cuando el columnista Dan Savage montó una exitosa campaña, en 2003, para sobrecargar los resultados de búsqueda de Google de Rick Santorum, el senador de derecha, con un vulgar neologismo sexual.
Sin embargo, la “ansiedad algorítmica” es la expresión más adecuada que he encontrado para describir la inquietante experiencia de navegar por las plataformas en línea de hoy. Shagun Jhaver, un estudioso de la informática social, ayudó a definir la misma mientras realizaba investigaciones y entrevistas en colaboración con Airbnb en 2018. De los quince anfitriones con los que habló, la mayoría estaban preocupados por dónde aparecían sus anuncios en los resultados de búsqueda de los usuarios. Sentían “incertidumbre de cómo funcionan los algoritmos de Airbnb y una percepción de falta de control”, informaba Jhaver en un artículo coescrito con dos empleados de Airbnb. Un anfitrión le dijo a Jhaver: «Muchos peores que el mío están en posiciones más altas«. Además de tratar de mejorar sus clasificaciones pintando paredes, reemplazando muebles o tomando fotos más halagadoras, los anfitriones también desarrollaron lo que Jhaver llamó «teorías populares» sobre cómo funcionaba el algoritmo. Iniciaban sesión en Airbnb repetidamente a lo largo del día o actualizaban constantemente la disponibilidad de su unidad, sospechando que al hacerlo ayudaría a que el algoritmo los notara. Algunos marcaban incorrectamente su propiedad como «seguros para niños«, en la creencia de que les daría un empujón. (Según Jhaver, Airbnb no pudo confirmar que tuviera algún efecto). Jhaver llegó a ver a los anfitriones de Airbnb como trabajadores supervisados por un ordenador jefe supremo en lugar de gerentes humanos. Para ganarse la vida, tenían que adivinar lo que quería su jefe caprichoso, y las conjeturas ansiosas pueden haber hecho que el sistema sea menos eficiente en general.
Las preocupaciones de los anfitriones de Airbnb se basaban en el reto de ofrecer un producto en línea, pero estoy más interesado en los sentimientos similares que afectan a aquellos, como Valerie Peter, que están tratando de descubrir qué consumir. Con ese fin, recientemente envié una encuesta sobre algoritmos a mis amigos y seguidores en línea; las respuestas que recibí, de más de cien personas, formaron un catálogo de ansiedades algorítmicas. Respondiendo a una pregunta sobre «encuentros extraños» con recomendaciones automáticas, un usuario informó que, después de divorciarse, Instagram comenzó a recomendarle cuentas de modelos, y otro se desconcertó al ver aparecer la canción de Soundgarden «Black Hole Sun» en todas las plataformas al mismo tiempo. Muchos se quejaron de que las recomendaciones algorítmicas parecían simplificar crudamente sus gustos, ofreciendo «peores versiones de cosas que me gustan que tienen ciertas similitudes superficiales«, como dijo una persona. Todos menos cinco respondieron «sí» a la pregunta: «¿El ‘algoritmo’ o las fuentes algorítmicas han absorbido más de su experiencia en línea a lo largo de los años?» Uno escribió que el problema se había vuelto tan generalizado que «dejó de preocuparse«, pero solo porque «no querían vivir con ansiedad«.
Patricia de Vries, profesora investigadora en la Gerrit Rietveld Academic que ha escrito sobre la ansiedad algorítmica, me dijo: «Así como el miedo a las alturas no es cuestión de altura, la ansiedad algorítmica no se trata simplemente de algoritmos«. Los algoritmos no tendrían el poder que tienen sin la gran cantidad de datos que producimos voluntariamente en sitios que explotan nuestras identidades y preferencias para obtener ganancias. Cuando un anuncio de sujetadores o colchones nos sigue por Internet, el culpable no es solo el algoritmo de recomendación, sino todo el modelo de negocio de las redes sociales basadas en anuncios en las que miles de millones de personas participan todos los días. Cuando hablamos del “algoritmo”, podríamos estar relacionando los sistemas de recomendación con la vigilancia en línea, la monopolización y la apropiación de todo nuestro tiempo libre por parte de las plataformas digitales; en otras palabras, con toda la industria de tecnología extractiva del siglo XXI. Bucher me dijo que la idea del algoritmo es «un representante de la tecnología y las relaciones de las personas con la máquina«. Se ha convertido en una metáfora del Otro digital definitivo, una representación de todas nuestras inquietudes con la vida en línea.
No se puede culpar a los usuarios por malinterpretar los límites de los algoritmos, porque las empresas de tecnología se han esforzado por mantener sus sistemas opacos, tanto para gestionar el comportamiento de los usuarios como para evitar que los secretos comerciales se filtren a los competidores o sean cooptados por bots. Krishna Gade trabajó en Facebook justo después de las elecciones de 2016, intentaba mejorar la calidad de las noticias. Mientras estuvo allí, desarrolló una característica, llamada «¿Por qué me aparece esta entrada?», que permitía a un usuario hacer clic en un botón en cualquier elemento que aparecía en su feed de Facebook y ver algunas de las variables algorítmicas que habían causado que apareciera el elemento. Una foto de un perro podría estar en su feed, por ejemplo, porque «comentaba publicaciones con fotos más que otros tipos de medios» y porque pertenecía a un grupo llamado Woofers & Puppers. Gade me dijo que vio que la función fomentaba un sentido de transparencia y confianza. “Creo que los usuarios deberían tener el derecho de preguntar qué está pasando”, dijo. Como mínimo, ofreció a los usuarios una visión sorprendente de cómo los percibía el sistema de recomendación. Sin embargo, hoy, en el sitio web de Facebook, la pregunta «¿Por qué me aparece esta entrada?» El botón está disponible solo para anuncios. En la aplicación, también se incluye para publicaciones que no son anuncios, pero cuando lo probé recientemente en un puñado de publicaciones, la mayoría solo dijo que eran «populares en comparación con otras publicaciones que has visto«.
A falta de una transparencia fiable, muchos hemos ideado remedios caseros para gestionar la influencia del algoritmo. Al igual que los anfitriones de Airbnb, adoptamos trucos que esperamos puedan generarnos promoción en las redes sociales, como una breve tendencia, hace algunos años, de usuarios que anteceden sus publicaciones de Facebook con anuncios falsos de compromiso o boda. Tratamos de enseñar a los sistemas de recomendación nuestras preferencias al quitar el pulgar hacia abajo de las películas que no nos gustan en Netflix o pasar rápidamente los videos no deseados de TikTok. No siempre funciona. Valerie Peter recordó que, después de seguir un montón de cuentas centradas en la astrología en Twitter, su feed comenzó a recomendar una avalancha de contenido astrológico. Su interés en el tema se desvaneció rápidamente: «Empecé a temer por mi vida cada vez que Mercurio estaba retrógrado«, dijo, pero Twitter siguió promocionando contenido relacionado. El sitio tiene un botón que los usuarios pueden presionar para indicar que «No están interesados en este Tweet«, junto con un emoji de cara triste, pero cuando Peter lo probó, descubrió que las alternativas sugeridas por Twitter también estaban relacionadas con la astrología. “Llevo intentandolo hace un mes o dos, pero sigo viéndolos”, dijo. El algoritmo recopila información y toma decisiones en silencio por nosotros, pero ofrece pocas oportunidades para comunicarse. En medio de mi trabajo en este artículo, el algoritmo de clasificación de Gmail decidió que un correo electrónico con materiales de verificación de hechos que había enviado a mis editores era spam y lo eliminó de mi carpeta «Enviados«, algo que nunca antes había experimentado. y preferiría que no volviera a suceder.
Últimamente, me han atraído los rincones de Internet que no se rigen por recomendaciones algorítmicas. Me inscribí en Glass, una aplicación para compartir fotos que atiende a fotógrafos profesionales pero está abierta a todos. Mi feed allí es tranquilo, prístino y completamente cronológico, con fotografías de la ciudad en su mayoría en blanco y negro y amplios paisajes en color, una combinación que recuerda los primeros días de Flickr (incluso si la estética predominante de la fotografía actual ha sido moldeada por el iPhone). algoritmos de optimización de cámara). No me puedo imaginar tener una experiencia tan agradable en estos días en Instagram, donde mi feed se ha visto superado por irritantes videos recomendados mientras la plataforma intenta imitar a TikTok. (¿Por qué el algoritmo cree que me gusta ver acrobacias en motocicleta?) El único problema con Glass es que no hay suficiente contenido para que lo vea porque mis amigos aún no se han unido. La atracción gravitatoria de las principales redes sociales es difícil de superar. Desde que Twitter eliminó la versión de escritorio de tweetDeck, que había usado para acceder a una versión cronológica de mi feed, dependo más de Discord, donde mis amigos se reúnen en salas de chat para intercambiar recomendaciones personales y noticias. Pero la realidad es que gran parte de lo que encuentro en Discord ha sido seleccionado de los feeds de las plataformas tradicionales. Estos nuevos espacios en Internet son un amortiguador a la influencia de los algoritmos, no un bloqueo.
Tashjian le aconsejó a Peter que explorara sus propios gustos fuera de las redes sociales. “¡Tienes que adoptar una mentalidad de madriguera! Lea las notas al pie y deje que una nota al pie lleve a otra”, escribió Tashjian. Tal vez encuentres una película que te guste, sugirió, y veas todas las otras películas de ese director. Tal vez descubras que quieres un camisón y “encuentres una imitación bastante buena” de uno genial en Etsy. Por supuesto, muchos caminos exploratorios a través de la cultura también están mediados por algoritmos. Cuando fui a la página de inicio de Etsy el otro día, me recibió una pantalla de recomendaciones generadas automáticamente etiquetadas como «Nuevos artículos que les encantan a nuestros editores«. Tal vez debido a alguna peculiaridad de mi historial de navegación en Internet, estos incluían bolsos de mano con eslóganes en alemán y tazas de viaje con monogramas. ¿Hay algún retrógrado que realmente ame estas cosas? Cuando comiencen a aparecer en mi feed de Instagram, ¿aprenderé a amarlos también? Uno pensaría que el algoritmo me conocería mejor ahora.
 “Rabia y solidaridad frente a un poder judicial que huele a naftalina” |
eulaliobe 