Cuenta Borges que la biblioteca de Babel contenía todos los libros posibles, incluidos los que profetizaban nuestra ruina. Totalitarismo total, de Pedro Salazar, es uno de esos libros: no porque profetice —Pedro es demasiado serio para profetizar—, sino porque diagnostica con precisión clínica el momento en el que las distopías que leímos de jóvenes empiezan a tener domicilio fiscal. La jornada en la que lo conocí ⎯en el lejano otoño del año 2000⎯ discurrió entre un seminario académico y una larga noche bohemia. Los efectos de ese primer encuentro se han mantenido, para mi fortuna, a lo largo de todos estos años. Eso explica, en parte, que me sea a la vez desafiante y placentero hacer este comentario. Las afinidades intelectuales con el autor son indudables. Somos conscientes de que vivimos en un mundo por el que vale la pena trabajar y esforzarse, especialmente cuando el horizonte se nos presenta nebuloso, sombrío y lleno de dudas. Si algo admiro del autor es su determinación para no quedarse quieto. Pedro es de las personas que dicen haciendo o, mejor dicho, que muestran su pensamiento con acciones concretas. Y Totalitarismo total, su más reciente libro, es el testimonio de esa forma de hacer que lo caracteriza.
El mapa de reflexiones que nos ofrece el autor cumple dos funciones simultáneas: 1) sirve como diagnóstico general de los impactos de los avances de la IA en cinco grandes rubros de la vida en sociedad (el poder, la creatividad, la responsabilidad, la guerra y el amor); y 2) vale como llamada de atención acerca de los grandes desafíos que representan todos estos cambios. Una de las ideas que no han dejado de dar vueltas en mi cabeza es que el mundo, tal y como lo conocemos, no volverá a ser el mismo, no sólo porque la velocidad que llevan los cambios es inquietante, sino porque desde el punto de vista cualitativo estamos ante un escenario absolutamente diferente a todo lo anterior; uno de tal magnitud que literalmente puede salirse de nuestras manos. No creo estar incurriendo en una perogrullada, porque nos quedaríamos cortos si simplemente comparásemos la IA con la pólvora o con la energía atómica. La IA, o más bien su dominio, es mucho más que un arma. Será, como dice el autor, la clave de un “totalitarismo total” que bien queda reflejado en la frase de Vladimir Putin varias veces mencionada en el libro: “Quien gobierne a la IA gobernará al mundo”.
En todo esto hay, como es natural, opiniones divididas. De un lado estamos los pesimistas y del otro los optimistas. Estos últimos, al leer estas líneas, podrán acusarme de alarmista o de catastrofista, pero sobre todo de no poseer la evidencia científica y el conocimiento técnico para dar soporte a mis afirmaciones. Sin embargo, rechazo el argumento porque está envuelto en una doble falacia: la del cientificismo, que pretende reducir toda discusión pública al terreno de la evidencia empírica, y la del ad verecundiam invertido, que exige credencial técnica para opinar sobre lo que es, en el fondo, una cuestión política y moral. Para discutir si la inteligencia artificial amenaza la democracia no hace falta saber programarla, del mismo modo que para discutir si una guerra es justa no hace falta saber fabricar tanques.
Aunque el progreso de la humanidad no ha dejado de sorprendernos ⎯desde la quijada de un burro usada como garrote hasta la incursión de los Agentes Cognitivos Autónomos (ACA)⎯, lo que estamos viviendo hoy no tiene parangón. Ante afirmaciones del tipo “siempre ha habido tecnología”, “siempre la hemos sobrevivido” o “esto es más de lo mismo”, podemos replicar que la cuestión no es si la tecnología es nueva o vieja, sino si esta tecnología en particular tiene propiedades cualitativamente distintas —velocidad, escala, opacidad, capacidad de modelar conducta— que la diferencien, por ejemplo, de la pólvora.
Los optimistas podrían pensar que primero fue una piedra afilada convertida en hacha para matar; luego las flechas, los cuchillos, las armas de fuego, los misiles nucleares y ahora la IA, y que, sin embargo, no nos hemos destruido aún; dirán que la tecnología siempre deja más cosas buenas que malas. Pero el problema no es la tecnología sino la condición humana ante la tecnología: cada vez que aparece una herramienta lo bastante potente, una parte de la humanidad la usa para dominar a la otra, y otra parte se organiza para impedirlo. La historia del Derecho es justamente la historia de ese segundo movimiento: el Derecho como herramienta civilizatoria que metaboliza la potencia destructiva de cada nueva tecnología. La pólvora produjo el Derecho internacional humanitario. La industria produjo el Derecho laboral. La energía nuclear produjo el régimen de no proliferación. Pero la IA producirá —o ya está produciendo, mal y a destiempo— junto a indudables beneficios, un nuevo Derecho. Mucho me temo que ese nuevo Derecho, al haber perdido la orientación hacia los fines y valores para los cuales fue creado, pronto dejará de cumplir ese papel civilizatorio y se convertirá en un instrumento de legitimación del totalitarismo total; me refiero, claro está, a un mal Derecho. Precedentes abundan. Lo primero que hace un dictador es modelar el Derecho vigente para legitimar su poder. ¿Por qué no habrá de ocurrir esta misma operación ante el “totalitarismo total”?
Y ahondando en mi pesimismo, sostengo que el modo de vida que llevamos está cada vez más deshumanizado, y esto se debe ⎯al menos en parte⎯ a la IA y, al mismo tiempo, se potencia con ella. A mi juicio, esta deshumanización es una consecuencia de un proceso de infantilización que como humanidad padecemos: cada vez adoptamos actitudes menos virtuosas y más cercanas al voluntarismo infantil, con lo cual, entre otras cosas, devaluamos o degeneramos al Derecho. El Derecho es justamente la institución adulta por excelencia, el mecanismo civilizatorio que la humanidad se da para gobernarse cuando reconoce que no puede confiar sólo en su buena voluntad. Si la humanidad se infantiliza, el Derecho —el buen Derecho— es la convocatoria a la adultez.
Uno de los capítulos más turbadores del libro es el dedicado al amor. En él, el autor da cuenta de cómo la sociedad infantilizada que somos ha creado un mundo virtual donde la minoría de edad afectiva puede campar a sus anchas. Me refiero a los chatbots que fungen como amigos, psicólogos, amantes y, en casos ya documentados, instigadores al suicidio. Winston, el personaje de 1984 que termina amando al Gran Hermano, está empezando a cobrar vida.
Y aquí conviene detenerse un instante, porque ese amor al tirano —que Orwell imaginó como horror y nosotros vivimos como entretenimiento— es la prueba más cruda de la tesis que vengo sosteniendo: cuando una humanidad infantilizada se topa con una tecnología totalitaria, no se resiste; se enamora. Por eso no se trata, en el fondo, de confiar en que el Derecho regulará, como lo ha hecho antes con otras herramientas, a la IA. Antes debemos preguntarnos de qué clase de Derecho estamos hablando, ya que uno malo u otro degenerado de poco o nada servirá para meter en cintura a la IA, especialmente si lo convertimos en criatura de los intereses económicos, políticos e ideológicos que están detrás de esta millonaria carrera por la dominación global. Pedro diagnostica con razón un “totalitarismo total” con dos motores: uno técnico, la IA; otro profundo, la infantilización política, jurídica y moral de la humanidad. Orwell lo había anticipado al mostrar que la opresión necesita amantes, no solo víctimas; y la salida —si existe— pasa por instituciones adultas, entre ellas el Derecho.
“Quien gobierne a la IA gobernará al mundo”, dijo Putin, y la frase tiene la economía siniestra de las profecías que se cumplen solas. Pedro Salazar ha escrito un libro para que no se cumpla, o para que, al menos, no se cumpla sin testigos. Es el modo civilizado —el modo adulto— de resistir: nombrar la cosa antes de que la cosa nos nombre a nosotros.
Roberto Lara Chagoyán
Académico y jurista mexicano. Doctor en Derecho por la Universidad de Alicante, España. Profesor del ITESM.