*

X
El gobierno de los algoritmos no es una cosa del futuro

Es evidente que vivimos en la era del algoritmo. Casi todos los espacios en los que nos movemos están siendo determinados por un algoritmo, ya sean los altos de la calle, la distribución de productos en un supermercado o el newsfeed de una red social. El ser humano confía en que los algoritmos son más eficientes y tomarán mejores decisiones, pero esto no es necesariamente cierto y, además, los algoritmos son reflejos de un sistema capitalista que no tiene un control central pero que está programado para seguir creciendo de cualquier forma, sin tregua, como un cáncer. Como sugieren Douglas Rushkoff y Mark Pesce, en tanto que los algoritmos "se alimentan de tu energía (tu atención: datos), conocen tus debilidades, y pueden influir en tus estados emocionales para que actúes de formas que no están en consonancia con tus mejores intereses", podemos llamarlos demonios, o esto es lo que era llamado algo así hace algunos siglos.

En una investigación científica, Allen Lee y Dionysios Demetis concluyeron que "los roles de la tecnología de la información y los seres humanos se han invertido", pues ahora "la tecnología ha avanzado al punto de que nos está usando y hasta controlando". Esto resulta paradójico, ya que los algoritmos no tienen agencia; los humanos somos los que tenemos agencia, pero los algoritmos ahora nos han eliminado de la toma de decisiones. Somos ahora "artefactos humanos" que existimos en el medioambiente de los algoritmos.

Los ejemplos que citan los investigadores son los siguientes: analistas legales están siendo reemplazados por inteligencia artificial; se le permite a softwares predecir futuros criminales e influir en las decisiones de los jueces (aunque éstos ni siquiera entienden la complejidad de estos mecanismos). Las compañías más grandes del mundo ya filtran los currículums a través de un software, lo cual impide que sean humanos los que revisen ciertos detalles de candidatos potenciales. Como notan los investigadores, esto hace que algunas compañías, como Amazon, sigan ciertos sesgos indeseados en sus políticas de contratación -y es que los algoritmos suelen ser discriminatorios-. Por otra parte, el 85% de las transacciones financieras en mercados internacionales son hechas únicamente por algoritmos. Y estos algoritmos toman decisiones en base a complejos mecanismos que no entendemos del todo. Se cree que la crisis de 2010 llamada Flash Crash, en la cual el Dow Jones cayó 9% en unos minutos, fue provocada por algoritmos. La gente que controla los mercados y las políticas financieras cree que las decisiones humanas son un obstáculo para la eficiencia del mercado, pero esto ha demostrado que los algoritmos son impredecibles. Demetis y Lee concluyen:

Al tiempo que nuevas fronteras son delineadas entre humanos y tecnología, necesitamos pensar cuidadosamente sobre a dónde nos está llevando nuestra extrema dependencia al software. Mientras las decisiones humanas son sustituidas por decisiones algorítmicas, y nos convertimos en herramientas cuyas vidas están moldeadas por máquinas y sus consecuencias impensadas,  nos estamos orillando a ser dominados por la tecnología. Necesitamos decidir, mientras todavía podemos, lo que esto significa para nosotros como individuos y como sociedad.

Cabe preguntarnos si la humanidad no se estará convirtiendo en ese conductor de Uber que sólo sabe ir por donde le dice su app, y deja de saber pensar y decidir por su propia cuenta. La fe ciega en el algoritmo es el peor de los fanatismos. Al final, todos los conductores de Uber serán reemplazados por robots.

Te podría interesar:
Sobre los desfiladeros de Tinder y otras apps de citas

Las aplicaciones para tener citas (dating apps) se han convertido en un fenómeno global, con compañías como Tinder o Bumble valuadas en miles de millones de dólares y con cientos de millones de usuarios en el mundo. Pareciera que estas aplicaciones son emblemáticas de la condición moderna, en la que la vida ocurre virtual o digitalmente y en la que las personas están demasiado ocupadas para salir a buscar una pareja -y donde los antiguos modos de "ligar" ya no funcionan igual-. Estas aplicaciones son parte del individualismo moderno y del "amor en tiempos del capitalismo digital", donde las cosas se arreglan a través de transacciones previamente establecidas. Dicho eso, muchas personas parecen sentir que son una buena opción.

Más allá de desincentivar su uso, hay algo que todo usuario debe saber: estas aplicaciones no están realmente interesadas en ayudarte a encontrar pareja o ligar, lo que les interesa es que pases más tiempo dentro de su plataforma. Pasar más tiempo en la aplicación no sólo hace más probable que adquieras algunas de sus funciones prémium, sino que cada minuto que pases es monetizado y cada "swipe" que haces es tomado en cuenta para la creación de algoritmos más efectivos (es decir, algoritmos que te hacen pasar más tiempo en estos sitios). Esto es algo que pasa en muchas redes sociales, pero muchas personas entran a estas aplicaciones en estados de ánimo vulnerables y estas aplicaciones depredan valiéndose de estos estados. Y la forma en  la que se consume en estas apps no es del todo diferente al porno, una especie de soft porn en el que los hombres y las mujeres se convierten en especie de objetos virtuales disociados de la realidad.

No está de más repetirlo: apps como Tinder o Bumble están diseñadas para que pases gran cantidad de tiempo allí, y gamifican o ludifican el sexo y el amor, lo hacen una especie de máquina tragamonedas, como las de los casinos de Las Vegas. Esto no significa que haya algo intrínsecamente malo en el juego, pero es evidente que son pocas las personas que son capaces de jugar con conciencia y autocontrol y no descubrir luego que llevan horas arrojando monedas con la remota esperanza de que finalmente van a ganar al jackpot. Como es sabido, el juego está arreglado para que la casa (casi) siempre gane.