*

X
Deep fake para textos: la máquina a la medida para la era de la posverdad

Los últimos 3 años en Internet han estado dominados por la incipiente conciencia del peligro de las fake news y la persuasión de votantes o consumidores a través de algoritmos que se alimentan en tiempo real de su información para manipular su conducta en línea. Este riesgo, que algunos consideran que atenta contra la democracia y la autonomía, podría tener un nuevo actor con el desarrollo de programas que logran escribir artículos que pueden hacerse pasar fácilmente por escritos por humanos, hasta un punto indistinguible o casi indistinguible. 

Hace un par de semanas la plataforma OpenAI anunció que estaba preocupada por el potencial uso nocivo de su modelo GPT2, que ha sido llamado "deep fake para textos". La compañía, que tiene a Elon Musk entre sus inversionistas, dijo que no hará pública la información de su investigación por miedo a que esta tecnología tenga ramificaciones negativas. El modelo GPT2 es capaz de generar texto plausible una vez que se le ha alimentado con un texto, algo así como una idea a desarrollar que conecta con otra información.

El sistema se diferencia de otros programas en que mantiene el mismo tema y sintaxis y crea pasajes estándar que parecen redactados por una persona. Esta plataforma se entrenó con más de 10 millones de artículos. Por una parte, esto es altamente interesante, pues este modelo puede realizar tareas como traducir y resumir textos. Pero por otro lado tiene un potencial que aunque podemos imaginar a dónde podría llevar, realmente es casi ilimitado en las posibilidades de usos que se le pueden dar para engañar y manipular. Por ejemplo, el sistema puede generar innumerables reseñas positivas o negativas de productos. Podría producir innumerables mensajes de spam, e incluso estudiar bases de datos para generar correos que busquen estafar a las personas. O teorías de la conspiración, o textos orientados a provocar a ciertos grupos sociales o políticos. Podría producir sitios enteros de fake news o de información con fines propagandísticos. 

Aunque esta cautela es bienvenida, por otro lado es evidente que esta tecnología en algunos años será desarrollada por otras personas y probablemente pueda ser usada con fines nocivos. Así que es importante prepararnos y educarnos. Lo que parece indudable es que estamos llegando a un punto en el que la tecnología que creamos está capacitada para rapazmente explotar algunas de nuestras vulnerabilidades mentales y nuestro nivel moral e intelectual como civilización no está a la altura para salvaguardar los usos de esta tecnología, lo cual es preocupante. Parece que vivimos en los tiempos que Philip K. Dick imaginó:

Las realidades falsas crearán humanos falsos. O bien, los seres humanos falsos generarán realidades falsas y luego las venderán a otros seres humanos, convirtiéndolas, eventualmente, en falsificaciones de sí mismos. Así que terminamos con humanos falsos inventando realidades falsas y luego vendiéndolas a otros humanos falsos.

Te podría interesar:
La pregunta no es menor

Poco antes de morir, el novelista italiano Umberto Eco, un hombre de una erudición enorme, hizo el siguiente comentario:

Las redes sociales le dan el derecho de hablar a legiones de idiotas que primero hablaban sólo en el bar después de un vaso de vino, sin dañar a la comunidad. Ellos eran silenciados rápidamente y ahora tienen el mismo derecho a hablar que un Premio Nobel. Es la invasión de los necios.

Esto fue antes de un despertar más o menos masivo, si bien no suficientemente proactivo, que ocurrió a partir del triunfo de Trump y el descubrimiento de la influencia de las fake news, las "cámaras de ecos" de los algoritmos y demás.

Hace unos meses publicamos una nota sobre el nuevo libro de Jaron Lanier, Diez razones para borrar tus redes sociales de inmediato. Lanier señala que los algoritmos de los gigantes de datos han creado un nuevo modelo en el que "el comportamiento de los usuarios es el producto", un comportamiento -el tuyo y el mío- que está constantemente siendo modificado.

Jaron Lanier es uno de los principales disidentes de la burbuja de Silicon Valley. Es considerado el padre fundador de la realidad virtual, uno de los autores del protocolo de Internet 2; actualmente trabaja en Microsoft, pero sólo como asesor; la mayor parte del tiempo la pasa componiendo música clásica y escribiendo. Junto con otras voces lúcidas como Douglas Rushkoff, Lanier lleva haciendo advertencias respecto a esto desde hace varios años: el uso indiscriminado de la tecnología, y particularmente de las redes sociales, atenta contra lo mejor de lo que es ser un humano. Según Lanier, las redes sociales son laboratorios experimentales donde nosotros somos como los famosos perros de Pávlov.

En un reciente artículo en El País (cuya lectura recomendamos mucho) sobre la situación general del Internet y los algoritmos, se cita a Lanier diciendo que él mismo notó los efectos negativos de la red cuando estuvo blogueando en el Huffington Post. En las redes, "las personas normales suelen transformarse en idiotas porque los idiotas reciben la máxima atención". Y agrega que Donald Trump, adicto al Twitter, es un buen ejemplo del comportamiento enajenado y de la estupidización de las redes: "No está actuando como la persona más poderosa del mundo, porque su adicción lo es más aún". Para Lanier, la solución no acepta medias tintas: si bien la tecnología y el Internet tienen cosas positivas, las redes sociales realmente no, así que recomienda dejarlas.

La pregunta es: ¿realmente las redes sociales nos están haciendo idiotas? La respuesta, creemos, es que sí. En el mismo artículo se cita al filósofo (también recientemente fallecido) Zygmunt Bauman, quien consideraba que el verdadero diá-logo (es decir, la concurrencia del logos, de la razón) ocurría con los que son distintos a uno. El Internet, que en un principio fue impulsado bajo la idea de que nos conectaría con los "otros", hoy nos conecta solamente con los mismos, con reflejos tautológicos de nuestros propios gustos. Como ha sido notado por diversos analistas, el algoritmo de Facebook funciona como una "cámara de ecos" o una "burbuja de filtro" que nos regresa más de lo que ya nos gusta y no muestra lo diferente y lo discordante Si la verdadera inteligencia, y más aún, el crecimiento individual, consisten en desafiar nuestras propias creencias y estar abiertos a la radical otredad, entonces parece que es cierto que las redes nos idiotizan. Asimismo, si consideramos que el significado de la palabra idiota tiene que ver con quien existe de manera privada, el idiota es el ciudadano privado, aquel que realmente no dialoga ni participa con el mundo. Claro que hoy vivimos en la ilusión de que Twitter es la plaza pública y ahí participamos, colaboramos y cambiamos el mundo.