*

X
El gobierno de los algoritmos no es una cosa del futuro

Es evidente que vivimos en la era del algoritmo. Casi todos los espacios en los que nos movemos están siendo determinados por un algoritmo, ya sean los altos de la calle, la distribución de productos en un supermercado o el newsfeed de una red social. El ser humano confía en que los algoritmos son más eficientes y tomarán mejores decisiones, pero esto no es necesariamente cierto y, además, los algoritmos son reflejos de un sistema capitalista que no tiene un control central pero que está programado para seguir creciendo de cualquier forma, sin tregua, como un cáncer. Como sugieren Douglas Rushkoff y Mark Pesce, en tanto que los algoritmos "se alimentan de tu energía (tu atención: datos), conocen tus debilidades, y pueden influir en tus estados emocionales para que actúes de formas que no están en consonancia con tus mejores intereses", podemos llamarlos demonios, o esto es lo que era llamado algo así hace algunos siglos.

En una investigación científica, Allen Lee y Dionysios Demetis concluyeron que "los roles de la tecnología de la información y los seres humanos se han invertido", pues ahora "la tecnología ha avanzado al punto de que nos está usando y hasta controlando". Esto resulta paradójico, ya que los algoritmos no tienen agencia; los humanos somos los que tenemos agencia, pero los algoritmos ahora nos han eliminado de la toma de decisiones. Somos ahora "artefactos humanos" que existimos en el medioambiente de los algoritmos.

Los ejemplos que citan los investigadores son los siguientes: analistas legales están siendo reemplazados por inteligencia artificial; se le permite a softwares predecir futuros criminales e influir en las decisiones de los jueces (aunque éstos ni siquiera entienden la complejidad de estos mecanismos). Las compañías más grandes del mundo ya filtran los currículums a través de un software, lo cual impide que sean humanos los que revisen ciertos detalles de candidatos potenciales. Como notan los investigadores, esto hace que algunas compañías, como Amazon, sigan ciertos sesgos indeseados en sus políticas de contratación -y es que los algoritmos suelen ser discriminatorios-. Por otra parte, el 85% de las transacciones financieras en mercados internacionales son hechas únicamente por algoritmos. Y estos algoritmos toman decisiones en base a complejos mecanismos que no entendemos del todo. Se cree que la crisis de 2010 llamada Flash Crash, en la cual el Dow Jones cayó 9% en unos minutos, fue provocada por algoritmos. La gente que controla los mercados y las políticas financieras cree que las decisiones humanas son un obstáculo para la eficiencia del mercado, pero esto ha demostrado que los algoritmos son impredecibles. Demetis y Lee concluyen:

Al tiempo que nuevas fronteras son delineadas entre humanos y tecnología, necesitamos pensar cuidadosamente sobre a dónde nos está llevando nuestra extrema dependencia al software. Mientras las decisiones humanas son sustituidas por decisiones algorítmicas, y nos convertimos en herramientas cuyas vidas están moldeadas por máquinas y sus consecuencias impensadas,  nos estamos orillando a ser dominados por la tecnología. Necesitamos decidir, mientras todavía podemos, lo que esto significa para nosotros como individuos y como sociedad.

Cabe preguntarnos si la humanidad no se estará convirtiendo en ese conductor de Uber que sólo sabe ir por donde le dice su app, y deja de saber pensar y decidir por su propia cuenta. La fe ciega en el algoritmo es el peor de los fanatismos. Al final, todos los conductores de Uber serán reemplazados por robots.

Te podría interesar:
El teórico de medios Douglas Rushkoff explica por qué es esencial tomar conciencia de que la tecnología nos afecta como una droga y estamos viviendo un malviaje colectivo del que apenas somos conscientes

Douglas Rushkoff es quizá el intelectual que más lúcidamente está pensando nuestra relación con la tecnología y cómo ello afecta a nuestra conciencia en la actualidad. Rushkoff ha sido llamado por el MIT uno de los 10 intelectuales más influyentes del mundo y ha escrito numerosos libros, desde los inicios del Internet (tiempos más entusiastas y optimistas) hasta una actualidad en la que la Web parece haberse puesto en contra de la humanidad. Rushkoff publicó recientemente su manifiesto Team Human (nombre también de un podcast que gestiona) y creemos que este es el libro central para entender lo que estamos viviendo y hacer algo al respecto (mucho más que, por ejemplo, los textos de Yuval Noah Harari). Esto, porque lo que dice Rushkoff es mucho más incómodo para la élite tecnológica.

Desde hace algunos años Rushkoff notó que la tecnología es una especie de programa mental que nos programa de maneras nocivas, especialmente cuando no nos damos cuenta de que esto sucede -cuando nos relacionamos de manera acrítica con ella, como dijo McLuhan- o cuando la embebemos en valores que no son realmente humanistas, sino que reflejan el sistema capitalista corporativo, el cual corre bajo el software de crecer infinitamente sin importar las consecuencias morales y espirituales de este crecimiento económico. Ahora, Rushkoff nos recomienda que pensemos en la tecnología digital como una droga.

En un reciente podcast con Jason Louv, Rushkoff comentó que no estamos experimentando el Internet como un videojuego al cual nos conectamos de repente y luego nos desconectamos y hacemos otra cosas. "Estar en línea es un estado de ser y eso es diferente, es tan diferente como la electricidad o incluso el texto o el lenguaje mismo". Fue McLuhan quien señaló que los nuevos medios eran como drogas psicodélicas que podían amputar y embotar nuestras facultades mentales, a la vez que extendían otras. Luego Tim Leary, en los años 90 del siglo pasado, predijo que las computadoras serían una especie de ácido lisérgico.

Rushkoff dice que ha estado "pensando en estas tecnologías como drogas" y que "estamos viviendo en el sustrato seudosicodélico del Internet, sin conciencia de que el set and setting determina la naturaleza del viaje... así que tenemos a todo Estados Unidos en un malviaje". El set and setting es el concepto desarrollado por Leary para entender cómo el lugar, la intención y demás factores configuran literalmente el tipo de "viaje2 que tiene una persona que consume una droga. Esta configuración, actualmente, es la del sistema económico capitalista.

Evidentemente, no es que las drogas sean malas, "pero debes ser consciente de que las estás tomando... o como dijo Tim Leary, antes de tomar una droga debes ver los ojos de una persona en esa droga y decidir si la quieres tomar" (algo que, curiosamente, es difícil, pues las personas que están bajo el influjo de esta droga pasan todo el tiempo mirando sus smartphones y no ven a los ojos a los demás). Es fundamental simplemente darse cuenta de que navegar por Instagram o jugar Fortnite son drogas que alteran nuestra mente y nuestras actitudes hacia la vida, y decidir si realmente queremos programar nuestra mente con Instagram o Tinder o cualquier otra plataforma. 

Algo alarmante está pasando, pues la tecnología digital tiene un poder inédito en la historia, justamente por su capacidad de usar a los usuarios no como meros consumidores sino como el producto mismo. Los datos que producen en tiempo real los usuarios están siendo tomados en cuenta para generar un mejor producto, una droga más adictiva. "La red se reconfigura en tiempo real en relación a nuestras reacciones a la información", dice Rushkoff, el algoritmo en tiempo real "busca debilidades en la mente humana para explotarla" y dirigir su conducta hacia el consumo. Es posible que como no nos valoramos realmente como seres humanos, como personas, con una esencia única e incluso sagrada, estamos programando a la tecnología bajo estos parámetros: la mentalidad hedonista, nihilista y de explotación que caracteriza al capitalismo. Nuestros algoritmos, esos nuevos demonios, están hechos al servicio de un modelo de "capitalismo corporativo antihumano" para "extraer datos, atención y dinero, por cualquier medio", y eso "compromete la autonomía, la cognición y la agencia de las personas". Como dice la activista Vandana Shiva: "el modelo dominante del desarrollo económico se ha convertido, de hecho, en la antivida". Esta es la droga con la que nos estamos intoxicando masivamente, y produce una alucinación colectiva que podría llegar a volverse indistinguible de la realidad, hasta el punto de que olvidemos cómo era el mundo antes del Internet. El mundo del encuentro entre dos personas, sin distracciones ni mediación, el mundo de las miradas y el calor humano y el misterio de la otredad.

 

Imagen: Indian Express