El algoritmo maldito

Reportajes y Entrevistas

El algoritmo maldito

Por Juan José Richards / Ilustración: Edith Isabel

Internet irrumpió en nuestras vidas con la promesa de un espacio democrático y de conexión. Pero con el tiempo las plataformas de búsqueda y las redes sociales han ido cediendo a los intereses del mercado y pasamos de ser usuarios a consumidores en línea. Google, Facebook, Netflix y Amazon funcionan con algoritmos que nos muestran sólo los resultados que nos gustan o nos acomodan, nos rodean de las personas que piensan como nosotros y nos ofrecen los insumos culturales que nos agradan. Este filtro invisible que suena paradisíaco representa una amenaza porque sesga nuestra opinión y reduce el tamaño de nuestro mundo. Aquí una mirada al interior del "filtro burbuja" que generan los algoritmos.

Basta buscar en Google la frase “Cómo Internet determina lo que pensamos” para hacerse una idea de la forma en que los algoritmos hoy rigen los resultados de los buscadores y el contenido de nuestros feeds en redes sociales. En la red existen millares de reportajes, columnas y ensayos que abordan cómo día a día se moldea la información a la que tenemos acceso en línea y evidencian cómo una operación matemática es capaz de definir nuestras opiniones y muy posiblemente, tener un impacto en nuestras ideas.

Los buscadores y las redes sociales no actúan solas ni guiadas exclusivamente por la intuición. Nos conocen porque nosotros les damos información clave para que nos conozcan. Puntuar, clasificar y recomendar se han vuelto operaciones asociadas al consumo de información y entretención, que finalmente nutren el perfil que los algoritmos crean sobre nosotros y nuestras decisiones de consumo. ¿Te gustó esta canción de tu adolescencia en Spotify? Seguro te gustará esta otra nueva que no conocías. ¿Cuándo definiste tu perfil en Netflix pusiste que te gustó E.T. y unas semanas después buscaste The Twilight Zone pero no la encontraste? Entonces vas a amar Stranger Things, una serie que además te va a generar la sospechosa impresión de que está hecha a la medida para ti.

La personalización en el mundo digital no es nueva. De hecho, este año se cumplirán 10 años desde que el blog corporativo de Google anunció a través de un breve post una actualización en su software financiero y los principales términos de búsqueda de la empresa que –según algunos críticos– cambió nuestra forma de relacionarnos con el contenido disponible en la red para siempre. Esa noticia del 2009 pasó desapercibida a gran escala, pero fue el comienzo de la especificación por usuario. El algoritmo que usa desde entonces el buscador más grande del mundo se llama PageRank, y califica los distintos enlaces que le presenta a cada persona según dos valores: importancia y relevancia. ¿El giro? Lo que es importante y relevante para mí, no lo es necesariamente para ti. “Asumimos que los buscadores son imparciales, pero la verdad es que cuando buscamos un término los resultados no son los mismos. Desde diciembre del 2009 el algoritmo sugiere qué es lo mejor para cada usuario. Es decir, ya no existe un Google estándar”, afirma el activista político Eli Pariser en su libro El filtro burbuja (2017). Praiser es creador de Upworthy, un sitio web que comparte contenido viral “significativo”, es presidente de la junta de MoveOn.org y cofundador de Avaaz.org. Pero sobre todo eso, es un teórico que cuestiona el lugar hacia donde nos puede llevar la personalización del mundo digital. “El peligro es que puede sesgar la percepción que tenemos del mundo”, advierte.

Pariser se considera liberal, de izquierda, y como usuario de redes se alarmó varios años atrás cuando sus amigos conservadores empezaron a desaparecer progresivamente de su página de Facebook. Dejó de ver opiniones distintas a las suyas y de pronto se sintió cómodo, pero levemente aislado. “Empecé a investigar cómo Facebook decidía qué mostrarme y qué ocultarme y resultó que Facebook no era el único que lo hacía. Concluí que la pantalla del computador es cada vez más un espejo unidireccional que refleja tus propios intereses, mientras los analistas de los algoritmos observan todo lo que clieckeas”, dice.

Y sucede que esos analistas que mejor nos conocen –y están hambrientos por conocernos más– no son personas, sino que números. En El filtro burbuja, Pariser explica que el código básico que hay en centro de esta nueva Internet post 2009 es bastante simple: “Los filtros observan las cosas que parecen gustarte –las cosas mismas o las que le gustan a las personas como tú– e intenta extrapolar. Son máquinas de predicción cuyo objetivo es crear y perfeccionar constantemente una teoría acerca de quién eres, lo que harás y lo que desearás a continuación. Juntas elaboran un universo de información único para cada uno de nosotros, que en el fondo altera nuestra manera de encontrar ideas e información”.

Según Pariser, el mundo a la medida que nos presenta esta personalización parece a primera vista perfecto, nos acomoda y nos mantiene lejos de lo que nos altera. “Se trata de un lugar acogedor, habitado por nuestras personas, objetos e ideas favoritos. Si no queremos volver a oír hablar nunca más de reality shows (o algún tema más serio como la violencia causada por armas de fuego), no tenemos por qué seguir oyéndolo; y al revés, si queremos conocer todos los movimientos de Reese Witherspoon, podemos hacerlo”.

Pero ocurre que en Internet no sólo hay comunidades de amigos, familiares, celebridades y entretención, sino que circula un bien bastante más poderoso: información. Consideremos que por un lado están los usuarios: a diario, en el mundo, se generan 900.000 entradas de blogs, 50 millones de tuits, 60 millones de actualizaciones de estados de Facebook y 210.000 millones de mails personales y corporativos. Y por otro lado están las medios, generando noticias, que nutren las opiniones, descargas y gustos de esos usuarios. “Las noticias configuran el sentido que tenemos del mundo”, dice Pariser. Y si se trata de noticias hay dos grandes fuentes: Google y Facebook, ambas regidas por algoritmos personalizadores. Probablemente tú crees que no te informas ni por Facebook ni por Google, quizás tú tienes un feed de Twitter personalizado con noticias fiables y amigos periodistas o sigues a medios en los que confías, pero tú no eres la mayoría. Las noticias personalizadas en Facebook son la fuente primaria de información de más del 50% de usuarios en el mundo. Y esa mayoría puede inclinar el planeta hacia un lado. O el otro.

El “Feis”

Ximena Shultz (70) es pensionada y vive en Santiago Centro. No tiene computador ni Internet en su casa. Se conecta a la red a través de su Samsung Galaxy. “Me hice una cuenta de Facebook en mayo de 2018 porque sentí que me estaba quedando fuera de lo que comentaban mis hermanas. Era bien reacia al celular, pero para estar más al día y para poder comunicarme con mis tres hijos, me compré un smartphone”, explica. A los pocos días de tener su dispositivo, se puso a investigar las aplicaciones y se abrió una cuenta en Facebook. “Mi hijo que estudia leyes me puso una foto de perfil y empecé a conectar. Era entretenido porque sabía noticias, incluso de repente de Nicaragua y Venezuela. Podía intercambiar ideas y darle la razón a personas que pensaban como yo”, cuenta.

Ximena ingresa por lo menos una vez al día a Facebook. Tiene 72 amigos, principalmente familiares, amigos y compañeros de la Marcha de los Detenidos Desaparecidos que se realiza todos los viernes en Morandé con Alameda. En su perfil a diario comparte noticias y postea sus opiniones. “Hasta ahora no me he encontrado con alguien que me trate mal por lo que pienso. Todo lo contrario. Me gusta cuando personas interesantes me dicen que están de acuerdo conmigo”, dice.

En su feed de Facebook hay principalmente noticias y estados personales. En primer lugar una nota de Radio Umbral sobre el Memorial del Pueblo, compartida por una amiga, hija de Detenido Desaparecido. Hay un video del canal de noticias 24 Horas transmitiendo en vivo, que Ximena no ve. Hay una foto de una amiga dice: “La educación no es un premio, es un derecho de todas y todos los niños”. Hay un post del Partido Comunista compartiendo fotos de La Fiesta de los Abrazos, a la que Ximena asistió. Hay un post personal de la hermana. Y algunas opiniones de amigos sobre igualdad, derechos y educación. “He aprendido a distinguir las noticias y los intereses de los medios de comunicación en redes. Por ejemplo, me doy cuenta que El Dínamo es de la Democracia Cristiana, entonces como siempre estoy mirando entre líneas me doy cuenta que tiran cosas acordes a su línea editorial. Otras veces hay contactos míos que comparten noticias falsas y mucha gente cae. ¡Eso me indigna! Los medios son capaces de alimentar el miedo y el terror. No sé si hay algo más terrorífico que la manipulación a través de las noticias”, dice.

Ana Paula Sanhueza (23) suele trabajar en su MacBook Pro en un Starbucks de Vitacura. Es egresada de Publicidad de la Universidad Diego Portales y actualmente se encuentra desarrollando una nueva plataforma que se llamará GoFix, la que en poco tiempo más ofrecerá servicios domésticos a domicilio. “Vengo a trabajar aquí porque es tranquilo”, dice mientras se toma su café. Se abrió una cuenta de Facebook en abril del 2008: “Cuando tenía 13 años mis primos llegaron con la novedad y todos nos hicimos una cuenta, fue más bien por curiosidad, era chica y tenía harto tiempo libre”, recuerda. “Al principio me pareció muy complicado como red social y como yo era más deportista que cercana a la tecnología, no entendí mucho. Así que ocupé mi Facebook principalmente para jugar”, dice.

Ana Paula tiene 975 amigos. La mayoría son amigos del colegio, compañeros de distintos equipos de deporte, amigos y familia. Pero nunca ocupó la red social para mantenerse en contacto con ellos. “La verdad es que mi Facebook no lo abro nunca, con suerte una vez al mes. Facebook se ha convertido para mí, y creo que para mi generación, en algo más parecido a Linkedin. Hay que estar porque es una plataforma donde entregas información formal tuya, pero no cotidianeidad. Personalmente uso mucho más Instagram, donde tengo mi cuenta y me meto varias veces al días para ver el feed y sobre todo las stories de la cuentas que sigo. Instagram tiene una segmentación mucho más interesante según intereses, que en mi caso hoy están ligadas al arte, el diseño y la publicidad”, dice.

En su feed de Facebook, al que no se conecta hace más de 40 días, primero le aparece la foto de su prima favorita, que está de vacaciones. Ana Paula le da like. Luego, una publicidad de Domestika que ofrece cursos de arte, diseño e ilustración; “me interesan todos”, dice. En tercer lugar el post de un conocido de la iglesia de sus papás, que no le interesa tanto. En cuarto lugar una ex profesora diciendo que busca trabajo (tiene dos likes) y en quinto lugar un post de seguridad del propio Facebook que le pide que asegure su contraseña porque no se conecta hace mucho tiempo. No lo hace.

Como fuente de información, Ana Paula recurre principalmente a cuentas de medios nacionales e internaciones que comparten noticias en Instagram y a búsquedas en Google. “Si recurro en Google y es un tema que me interesa, lo investigo por mi cuenta. Primero leo algo en un medio, luego lo comparo con lo publicado en otro medio y hago un cruce de fuentes hasta formarme mi propia opinión”, asegura. Sabe que que hay noticias falsas, pero confía en su método de triangulación de fuentes para hacerse una idea objetiva.

Después de conversar con Ana Paula, llego a mi casa en Providencia y me conecto desde mi Samsung J4 a mi propia cuenta de Facebook. Me uní en agosto del 2013 después de un viaje largo en el que conocí a varios amigos de distintas partes del mundo. En un principio, sólo aceptaba a personas que vivieran fuera de Chile y le rechazaba solicitudes de amistad a antiguos compañeros del colegio y la universidad. Con el tiempo me fui flexibilizando, pero cambié la configuración de Facebook para no tener que ver las fotos de las uñas cortadas del hijo recién nacido de un primo o los posts de las amigas que preguntaban quién iba a la playa el fin de semana.

Ordené mi feed con medios seleccionados que me interesa ver. Así en primer lugar, me aparecen noticias relacionadas a cultura y política del New York Times. Hoy: una nota de cómo aumentan las temperaturas oceánicas y un ensayo crítico sobre el muro de Trump. En tercer lugar me aparecen posts con historias de UpWorthy: una mujer que inició una protesta para salvar un árbol en West Virgina y una receta para balancear una dieta sin carne. Sólo veo los posts personales de mis dos hermanas. Más abajo está el último trabajo de un amigo ilustrador botánico y la nueva foto de perfil de un compañero de universidad que está haciendo su transición para ser mujer.

Ocupo Facebook principalmente para mantener contacto con mis amigos extranjeros y para informarme. Inicio sesión semanalmente, pero no es una red que me mantenga alerta. Siento que llegué tarde a Facebook y que nunca la entendí del todo. Al principio le ponía like a mis propios posts hasta que me explicaron que eso no se hacía. A pesar de no manejarla bien, es una red donde me siento cómodo y donde veo lo que quiero ver. Pero el año 2017, cuando como país estábamos inmersos en plena campaña presidencial, me pidió amistad una antigua amiga de juventud a la que no pude decirle que no. A los pocos días que la acepté, ella actualizó su foto de perfil con una estrella y el nombre de Sebastián Piñera, su candidato. La eliminé de mis amigos. Ella me escribió después de un tiempo, me dijo que lamentaba mi decisión, y que en vez de eliminarme de Facebook nos podríamos haber sentado a conversar sobre nuestras posturas políticas. Pero no lo hice. Y probablemente ella tenía razón.

Mi Google, tu Google, nuestro Google

Google nació en 1996 como el proyecto de un grupo de alumnos brillantes de Standford que pensaron en una plataforma simple de búsqueda sin fines publicitarios. Pero, a más de 22 años de su creación, su realidad es otra. Google Ads es hoy un servicio y programa consolidado para avisar en el buscador y se ha transformado en su principal fuente de (millonarios) ingresos. El 2010 la compañía lanzó Google Instant, que predice lo que estás buscando a medida que lo estás escribiendo y esa herramienta también está determinada por el algoritmo que rige tu búsqueda. Aunque tú y yo busquemos lo mismo, Google autocompletará nuestras frases con opciones distintas dependiendo del dispositivo desde que busquemos, nuestra ubicación, nuestra edad, nuestro género y nuestros intereses.

Así por ejemplo si Ximena Shultz escribe “mapuche” en la barra de búsqueda de su Samsung Galaxy desde Santiago Centro, los primeros resultados son: mapuche muerto, mapuche mujer y radio mapuche. Para Ana Paula Sanhueza, desde su MacBook Pro en Vitacura: mapuche dibujo, mapuche bandera y mapuche vestimenta. Para mí, en mi Samsung J4 desde Providencia: mapuche killed in Chile, mapuche flag, mapuche people. Si Ximena busca “carabinero”, Google le ofrecerá: carabinero mata a mapuche, carabinero mata a mapuche por la espalda y una noticia sobre Hermes Soto de la Universidad de Chile. A Ana Paula: carabinero ruta 68, carabinero muerto en conflicto mapuche, carabinero de chile rut. Para mí: carabineros de Providencia, carabineros Twitter, carabineros Vitacura.

Si Ximena busca “ser mujer”, Google le sugerirá: ser mujer negra en España, ser mujer y mamá y ser mujeriego. A Ana Paula: ser mujer un viaje heroico, ser mujer frases, ser mujer en Dubai. A mí: ser mujer Simone de Beauvoir, soñé con ser mujer, ser mujer es. Si Ximena busca “militar”, la aparecerán: lista de militares chilenos, video del Dínamo de Miguel Krassnoff (en que se rechaza su homenaje) y militar Chile golpe. A Ana Paula: militar disfraz, militar dibujo y militar mujer. A mí: militarización de la Araucanía, militar en inglés y militar sinónimo.

Esta realidad personalizada es la que alertó a Eli Pariser para escribir su libro y la que crea los “filtros burbujas”. Aunque pareciera que el mundo está hecho a nuestra medida, lo cierto es que los filtros nos alejan, nos desconectan y nos dejan solos con nuestras preferencias, ocultándonos las capas de complejidad que tiene la realidad. Pariser dice: “El filtro burbuja nos cerca con ideas que ya estamos familiarizados, induciéndonos a un exceso de confianza en nuestros esquemas mentales y por otro lado elimina de nuestro entorno elementos clave que nos hacen querer aprender”.

Le muestro los resultados disímiles en nuestras búsquedas a Ana Paula y no se sorprende. Se da cuenta que su búsqueda está determinada por sus intereses en diseño y arte y cree que ella tiene las herramientas suficientes para triangular información con la que pueda hacerse una idea objetiva de lo que le interesa. Sabe que el filtro burbuja existe. Ximena, en cambio, se alarma. Le parece que esta personalización es peligrosa, y que lo único que demuestra es lo lejos que estamos y lo mucho más que podemos alejarnos si entramos en los estrechos pasillos del sesgo.

Le pregunto que cómo y dónde percibe esa amenaza. Ella me cuenta que, por ejemplo, tiene un grupo de WhatsApp con sus amigas del colegio donde todas piensan distinto pero se respetan. “Nos conocemos desde los años ’60 y me parece que la única gran diferencia entre ellas y yo, es que yo vivo sin miedo. Me encantaría pasearlas, porque ellas viven en Las Condes o Chicureo, se mueven en autos y yo vivo sola en el Centro de Santiago y me muevo a pie. Es que me encanta ver la diversidad del Chile de hoy conviviendo en la calle. Todas las semanas voy a la casa de mi hijo en Recoleta y a la vuelta veo que en el mismo puente puede convivir un colombiano que vende arepas, un chileno que vende sopaipillas y un chino que vende arrollados de primavera. Se echan tallas entre ellos y me echan tallas a mí, ¡Y eso es vivir, por la cresta! Vivir tranquilo y feliz es fácil, no hay que tener miedo. ¿Si podemos vivir juntos y bien en la calle, por qué no podemos tener esa misma amplitud en las redes? ¿Por qué no podemos vernos la cara los unos a los otros?”.

Seguir leyendo