*

X
Deep fake para textos: la máquina a la medida para la era de la posverdad

Los últimos 3 años en Internet han estado dominados por la incipiente conciencia del peligro de las fake news y la persuasión de votantes o consumidores a través de algoritmos que se alimentan en tiempo real de su información para manipular su conducta en línea. Este riesgo, que algunos consideran que atenta contra la democracia y la autonomía, podría tener un nuevo actor con el desarrollo de programas que logran escribir artículos que pueden hacerse pasar fácilmente por escritos por humanos, hasta un punto indistinguible o casi indistinguible. 

Hace un par de semanas la plataforma OpenAI anunció que estaba preocupada por el potencial uso nocivo de su modelo GPT2, que ha sido llamado "deep fake para textos". La compañía, que tiene a Elon Musk entre sus inversionistas, dijo que no hará pública la información de su investigación por miedo a que esta tecnología tenga ramificaciones negativas. El modelo GPT2 es capaz de generar texto plausible una vez que se le ha alimentado con un texto, algo así como una idea a desarrollar que conecta con otra información.

El sistema se diferencia de otros programas en que mantiene el mismo tema y sintaxis y crea pasajes estándar que parecen redactados por una persona. Esta plataforma se entrenó con más de 10 millones de artículos. Por una parte, esto es altamente interesante, pues este modelo puede realizar tareas como traducir y resumir textos. Pero por otro lado tiene un potencial que aunque podemos imaginar a dónde podría llevar, realmente es casi ilimitado en las posibilidades de usos que se le pueden dar para engañar y manipular. Por ejemplo, el sistema puede generar innumerables reseñas positivas o negativas de productos. Podría producir innumerables mensajes de spam, e incluso estudiar bases de datos para generar correos que busquen estafar a las personas. O teorías de la conspiración, o textos orientados a provocar a ciertos grupos sociales o políticos. Podría producir sitios enteros de fake news o de información con fines propagandísticos. 

Aunque esta cautela es bienvenida, por otro lado es evidente que esta tecnología en algunos años será desarrollada por otras personas y probablemente pueda ser usada con fines nocivos. Así que es importante prepararnos y educarnos. Lo que parece indudable es que estamos llegando a un punto en el que la tecnología que creamos está capacitada para rapazmente explotar algunas de nuestras vulnerabilidades mentales y nuestro nivel moral e intelectual como civilización no está a la altura para salvaguardar los usos de esta tecnología, lo cual es preocupante. Parece que vivimos en los tiempos que Philip K. Dick imaginó:

Las realidades falsas crearán humanos falsos. O bien, los seres humanos falsos generarán realidades falsas y luego las venderán a otros seres humanos, convirtiéndolas, eventualmente, en falsificaciones de sí mismos. Así que terminamos con humanos falsos inventando realidades falsas y luego vendiéndolas a otros humanos falsos.

Te podría interesar:
Resonancias magnéticas muestran que niños de 9-10 años que pasan mucho tiempo con smartphones o tablets sufren alteraciones en el córtex cerebral

En el que es el estudio más grande hasta la fecha en medir los efectos de la tecnología digital en el cerebro de los niños, investigadores del National Institute of Health de Estados Unidos han hallado indicios de que pasar mucho tiempo ante una pantalla afecta negativamente la cognición. El estudio, que cuenta con fondos de 300 millones de dólares y está programado para hacerse de manera longitudinal durante varios años, midió el impacto de la tecnología a través de imágenes de resonancia magnética y pruebas de aprovechamiento en más de 4 mil 500 niños.

Tan sólo pasar más de 2 horas ante una pantalla ya modifica la estructura del cerebro de un niño de entre 9 y 10 años de edad, si bien se notaron efectos drásticos en niños que pasan 7 horas o más al día ante pantallas, algo que parece una barbaridad pero no es del todo fuera de lo común. Los efectos, con tan sólo 2 horas diarias de uso, se muestran en cosas como memoria reducida, disminución de la habilidad perceptual y menor puntaje en pruebas de IQ.

En el caso de los niños que pasan 7 horas al día ante una pantalla se observó un adelgazamiento del córtex, algo similar a un envejecimiento. Estos resultados no implican necesariamente que haya daños cerebrales por el uso de las pantallas -aunque lo sugieren fuertemente-, y necesitan ser analizados a profundidad. Sin embargo, el hecho de que en la misma investigación se encontró una disminución en pruebas de inteligencia en niños que usan mucho estos aparatos, parece ser un fuerte indicador en esa dirección. 

Aunque aún quedan por determinar cosas que para los científicos son importantes y éstos se manifiestan cautos, resulta bastante evidente que pasar mucho tiempo ante una pantalla afecta la cognición, y de los primeros resultados se puede deducir que no favorablemente. Algo que, por otra parte, no era necesario que fuera dicho por los científicos; cualquier persona que mantiene cierta claridad de juicio ya se había dado cuenta de que el uso prolongado de smartphones y tablets que predomina en nuestra civilización no es exactamente un semillero de genios.

Los investigadores dijeron que existe "una preocupación de que estamos en medio de una especie de experimento fuera de control con la nueva generación de niños", lo cual suena sumamente delicado. ¿Acaso, en nuestro afán de seguir creciendo económicamente y en nuestra apuesta ciega por la tecnología, hemos hipotecado el cerebro de nuestros hijos?

 

Lee también: ¿Qué es la dopamina digital (o cómo la tecnología digital está diseñada para hacerte adicto)?