“Hemos llamado a nuestra especie Homo sapiens, el ‘humano sabio’. Pero es discutible que hallamos estado a la altura de ese nombre”, lanza Harari ya en las primeras líneas del prólogo. Unas 470 páginas después, el lector de Nexus tendrá un panorama de la historia humana analizada desde la perspectiva de las redes y seguramente habrá hecho suyas algunas de las preocupaciones del autor. También tendrá a disposición casi un centenar de páginas más, con notas que documentan sus afirmaciones.
En tanto historiador, Harari echa una nueva mirada a temas viejos, como el funcionamiento de las redes y el poder en el Imperio romano, el estalinismo, el nazismo y la democracia estadounidense, pero los cruza con discusiones bien actuales con enfoques filosóficos: “Hay que insistir en que rechazar la idea ingenua de la información como representación no nos obliga a rechazar la noción de verdad ni a aceptar la idea populista de la información como arma”, pero también cree que es necesario estar atentos a la ilusión de que “desarrollar una tecnología de la información más potente dará como resultado una comprensión más veraz del mundo”.
Antes de ingresar a lo que más parece preocuparle, la autonomía creciente de la red informática, insiste en dejar claro que “la historia de la información desde la Edad de Piedra hasta la Era del Silicio” muestra que “el aumento constante de la conectividad no viene acompañado de un aumento simultáneo de la veracidad o la sabiduría”.
La diferencia entre la Biblia, la Torá, el Corán y otros textos sagrados con las redes actuales —explica— es que los anteriores no toman iniciativas, están allí para ser interpretados.
Harari tiene una mirada pesimista, no solo de lo que podría llegar a pasar, sino también de lo que ha sido hasta ahora la propia aventura humana en la Tierra, antes de la IA.
Además de la preocupación principal, el carácter de agente con iniciativa que caracteriza a la IA, Harari aborda también los otros asuntos que están en la conversación por el vínculo entre humanos y ordenadores inteligentes.
“Lo que debe quedar claro desde el comienzo es que esta red creará realidades políticas y personales totalmente inéditas”, ya que “los humanos todavía tenemos el control”, aunque “no sabemos durante cuánto tiempo”.
Lo funda en datos: en abril de 2022, más del 90% de los intercambios del mercado de divisas los estaban haciendo ordenadores que se relacionaban directamente con otros ordenadores. Eso ocurre luego de apenas 80 años desde que comenzaron a funcionar las computadoras digitales, un potencial tremendo luego de 4.000 millones de años de vida y redes humanas. Por si algún lector distraído sigue con dudas, advierte: “Una red de información dominada por ordenadores inorgánicos será diferente en formas que apenas podemos imaginar”.
Tampoco pasa por alto el aspecto ambiental, ya que los centros de procesamiento de datos representan entre el 1 y el 1,5% del uso global de energía y consumen cientos de miles de metros cúbicos de agua, como ocurre con el centro de Google cerca de Pando, cuyo gasto estimado es igual al de una pequeña ciudad.
A cierta altura del libro queda claro que, aunque el modelo que tomó Turing fue el cerebro humano, la IA no está evolucionando hacia una inteligencia de nivel humano, sino hacia algo muy diferente.
Uno de los ejemplos más impactantes es el del juego asiático Go, bastante más complejo que el ajedrez, para el cual una computadora encontró una estrategia para ganar que nadie había percibido en miles de años.
Harari está preocupado por aclarar el sentido de los términos, que, además, cambian muy rápido, y explica que “un bot puede contaminar una de nuestras redes sociales con noticias falsas, mientras que un robot puede limpiar el polvo de nuestra sala de estar”.
A Facebook, Amazon, Baidu (el motor de búsqueda chino similar a Google) o Alibaba los describe no como “simples servidores que obedecen los caprichos de sus clientes y las normativas gubernamentales”, sino como poderosos jugadores que “cada vez más moldean estos caprichos y estas normativas”.
El libro se detiene en especial en el caso de la influencia que tuvo el algoritmo de Facebook en el genocidio rohinyá en 2016, que causó la muerte de miles de miembros de esa minoría musulmana a manos de la Policía y el Ejército de Myanmar (antigua Birmania). Una feroz campaña fue lanzada usando la red social y, con la ayuda del algoritmo, construido para incentivar la implicación de los usuarios, derivó en el aumento de los mensajes de odio, los que más tráfico producen.
Recién después del desastre, Facebook ha admitido que la “economía de la atención” se les fue de las manos, pero insisten en que han adoptado medidas para evitar que se repitan casos extremos como el cruento de Myanmar o el de Cambridge Analytica en 2018.
Durante años, el mayor poder de lobby a escala mundial lo tenían la industria farmacéutica y las petroleras. Sin embargo, citando a la agencia Bloomberg, Harari recuerda que, en 2022, ese lugar lo pasaron a ocupar las principales compañías tecnológicas, que destinaron 70 millones de dólares al cabildeo en Estados Unidos y otros 113 millones a ejercer presión sobre las entidades de la Unión Europea.
21-lecciones-siglo-XXI-Harari.jpg
Uruguay en el mapa
Aunque las millonarias actividades de lobby puedan parecer lejanas de la capital más austral del planeta, el libro se ocupa, al menos en unas pocas páginas, de Uruguay, al que pone como ejemplo de cómo un país deja de percibir impuestos por la actividad que realizan Google y ByteDance, la empresa matriz de TikTok, que proporcionan redes sociales gratuitas y, a cambio, reciben anuncios de firmas como Coca Cola, Peugeot o Nike, pero no tributan en el país. Eso ocurre mientras los usuarios están aportando todo el tiempo información que sirve para hacer funcionar la IA y contribuyen a que Google y ByteDance figuren entre las empresas más ricas del mundo.
Harari explica, entonces, que tiene sentido que esas compañías paguen alguna tasa en el país porque “sus actividades socavan los negocios uruguayos que sí pagan impuestos” y los medios locales o las futuras empresas de IA sufren porque no pueden competir con las enormes bases de datos de las multinacionales. “Google y ByteDance —explica el libro— proporcionan a los ciudadanos uruguayos servicios online gratuitos y, a cambio, los ciudadanos ofrecen libremente su historial de compras, las fotos de sus vacaciones, sus divertidos videos de gatos y otra información”.
Los efectos de la IA alcanzan a casi todo. Uno de los más controvertidos es la aplicación de un sistema de puntuación. Como si toda la vida fuera un concurso, a partir de ciertas características personales se asignan puntos por parte de la IA y, según la suma, es posible que alguien obtenga o no cierta atención médica, una pena de cárcel, un trabajo o un crédito bancario.
En definitiva, están afectados los valores de la democracia. “Las democracias temen el auge de nuevas dictaduras digitales. Las dictaduras temen la aparición de agentes que no saben cómo controlar”, explica Harari. Y concluye: “Todos deberían preocuparse por la desaparición de la privacidad y la expansión del colonialismo de datos”.
Harari no es el único. Algunos autores hablan de que estamos ante un “higienismo radical” que se adopta en ausencia de reflexión crítica. El filósofo francés Éric Sadin, por ejemplo, ha formulado fuertes críticas a la IA y, durante una conferencia que ofreció este año en la Universidad Católica (UCU), puso ejemplos de la vida cotidiana: aplicaciones como Weiz o Tripadvisor que te dicen dónde ir limitan las libertades individuales y aumentan la dependencia y la concentración capitalista. Son modos de racionalidad que llevan a una mayor mercantilización de la vida.
Entre los académicos uruguayos que estudian estos temas —como Miguel Pastorino y Karina Silva de la UCU— prevalece la opinión de que Harari, si bien es un divulgador, ha hecho algunos aportes atendibles.
Parece que la dicotomía formulada por Umberto Eco, entre los que están encantados con la nueva tecnología y los que ven más aspectos negativos que ventajas, recobra actualidad.
