Totalitarismo total (Taurus, 2026) de Pedro Salazar habla fundamentalmente de la reconversión y concentración del poder y de la posible paulatina sumisión de la humanidad a los deseos de unos cuantos.

Parte de lo general a lo particular de forma docta y amena, está bien documentado y permite a cualquiera entender algunos de los grandes dilemas que plantea el surgimiento de la IA y, en particular, de la IA generativa. Este magnífico invento hace que la humanidad se replantee su propia existencia y su posible supervivencia ante máquinas que pueden procesar datos a una velocidad antes inimaginable. Son máquinas que nos permitirán resolver retos que a los humanos nos hubiera podido tomar años, décadas o siglos y que hoy están al alcance de nuestras manos.

Sin embargo, la velocidad a la que evolucionan rebasa nuestros controles y nos obliga a replantear no solo sus fundamentos, sino también nuestras propias creencias y modelos de gestión y autogobierno.

Poder, creatividad, responsabilidad, capacidad de confrontación y autodestrucción, e incluso nuestra forma de autorrelacionarnos, tolerarnos y vincularnos.

A lo largo de estas 150 páginas, Pedro Salazar nos lleva de la mano desde la reorganización política, económica y social hasta la redefinición de nuestra convivencia más básica: la del amor. Empezaré justamente por ese capítulo final para elaborar mi argumento.

El autor plantea que corremos el riesgo de terminar con una pareja artificial: una máquina que pueda ser más atractiva y fácil que una pareja humana. Es decir, que exista la posibilidad de que el amor deje de ser el reto cotidiano de la convivencia, la empatía, la seducción, la comprensión y la tolerancia para convertirse en la fácil autocomplacencia que nos encierre en nuestras creencias y necesidades sin tener que esforzarnos por entender y convivir con “el otro”.

Por eso prefiero ir de lo particular a lo general. Si dejamos de ser capaces de esforzarnos para entender y crecer con una pareja, ¿qué capacidad tendremos para vivir en comunidad? ¿Cómo podremos ver, sentir, entender o tolerar al prójimo? Si nos acostumbramos a no ser cuestionados, a no buscar estrategias de convivencia, viviremos apegados a una máquina que nos entiende y nos ayuda, que nos manipula desde su conocimiento de nuestras fortalezas y debilidades, al tiempo que aprovecha nuestra información para alimentar algoritmos dedicados a beneficiar a las grandes corporaciones. ¿Cómo generar, entonces, un contrato social que no parta de una sumisión irreflexiva?

Si desde lo individual se trastoca la lógica de convivencia social gracias a la penetración de los algoritmos en nuestra cotidianidad, ¿cómo zafarnos de las garras de los intereses económicos, políticos o ideológicos que, sin darnos cuenta, se habrán metido hasta lo más profundo de nuestro ser, trastocando por completo nuestra capacidad de tomar decisiones desde el eje de nuestra conciencia?

Pedro toca de manera impecable la transformación del poder, ese que antes se dividía y lograba un equilibrio interactivo entre poder político, poder económico y poder ideológico; hoy estos tienden a confundirse y, eventualmente, a someterse. El capitalismo, argumenta el autor, parece estrangular al amor y, en parte, a la democracia al apropiarse de las nuevas herramientas que controlan también el poder ideológico: las redes sociales y las máquinas que pueden sustituir la interacción social por el aislamiento autocomplaciente.

Sin duda, el mundo de hoy se mueve por intereses económicos concentrados en los consorcios tecnológicos que controlan la inversión. Estos son, por ende, los que limitan el desarrollo de ciertos sectores, ciertas industrias y, por supuesto, amplias regiones del mundo: aquellas que quedan fuera de la frontera digital.

En el capítulo sobre “el problema de la creatividad”, se demuestra cómo la creatividad misma, los derechos de sus autores y la regulación que los protege están siendo sometidos a los intereses de algunos actores del mercado. Queda claro que la tendencia será obligar al regulador a diseñar marcos institucionales que beneficien a los dueños y usuarios de las herramientas de IA generativa por encima de los creadores autónomos.

Pero ¿quiénes son los creadores autónomos que quedan en desventaja? ¿Son aquellos que generan ideas a partir de su conocimiento y experiencia y que no necesariamente cuentan con herramientas que procesen y combinen cientos de miles de obras e ideas de otros? ¿Son los creadores que no usan IA porque no quieren o porque no pueden? Esto abre, asertivamente, el dilema del acceso, que, en mi opinión, deberá analizarse más allá del proceso creativo y de los derechos de autor.

El problema del acceso se detona porque la IA no llega de la misma manera a todos; esto no es solo porque algunos tienen acceso a internet y otros no. El problema es exponencial en términos de desarrollo porque solo algunos producen tecnología, otros solo la consumen y, por supuesto, muchos solo la van a padecer a través de la exclusión de ese nuevo mundo que está por nacer. Así, las brechas de desarrollo pueden ampliarse entre países y dentro de los mismos, llevando a nuevos niveles de abuso y subordinación dependiendo del acceso y control de los datos y de la utilidad que estos generan.

La tecnología dotará, explica el autor, de herramientas poderosas a los ganadores. El ejemplo de los agentes autónomos muestra distintos posibles riesgos. Por un lado, veremos cómo se usan y se abusa de ellos para ejercer autoridad, control o abuso de unos cuantos sobre las masas desprotegidas. Al dejarlos prosperar sin controles o mecanismos de contención adecuados para sus creadores, y al ser incapaces de generar y aplicar una regulación seria que delimite a los dueños de las herramientas, estos simplemente avanzan sin control. Así, las herramientas tecnológicas que inicialmente se crearon para ser utilizadas por humanos van cobrando vida propia y, como dice Pedro, los desarrollos científicos o tecnológicos nunca se detienen, por lo que acabarán creando agentes cognitivos autónomos.

Por ejemplo, los primeros sistemas de software (todavía no algoritmos) básicamente se diseñaron con reglas de seguimiento de decisiones básicas del consumidor para recomendarle libros, películas, juegos o música. Hoy, la evolución de los algoritmos empieza a darles vida propia. No obedecen a una autoridad superior. Actúan por cuenta propia mientras las instituciones no deciden ni saben cómo establecer o imponer un límite o un castigo equivalente al que se impone a los humanos cuando actúan de mala manera.

El desarrollo tecnológico no se detiene; sin embargo, sorprende la parálisis y lentitud con la que reaccionan las instituciones. Los gobiernos pasan años tratando, primero, de creer y luego de entender lo que tienen enfrente. Parece que la humanidad se niega a aceptar su evolución y, para cuando reaccione, posiblemente será demasiado tarde.

De ahí la importancia de revisar la historia y, en particular, regresar a Sebastián Haffner para analizar las similitudes del mundo actual con el de los años veinte del siglo pasado. Esta comparación, semilla de larguísimas conversaciones, me lleva invariablemente a cuatro elementos clave: 1) gobiernos paralizados con instituciones rígidas que no sueltan el pasado; 2) un cambio tecnológico que evoluciona a una velocidad vertiginosa; 3) sociedades empobrecidas, decepcionadas y frustradas, que exigen cada vez más y se convierten en víctimas del chantaje, la mentira y la oferta de soluciones fáciles que prometen resolver los dolores sociales: soledad, pobreza, desigualdad, odio y rencor; y 4) estas soluciones fáciles acaban por socavar la voluntad del individuo y la fuerza y conciencia colectiva, que a su vez está siendo vulnerada por la tecnología misma y que es la que, al final, da forma y estructura a la sociedad y a su contrato social.

Hoy, como en los años veinte, predomina la necesidad de un enemigo, bien documentada en el libro, pero también la necesidad de una ilusión, algo en qué creer, alguien que parezca entender nuestra necesidad más profunda: “ser escuchado y reconocido”.

Así, cuando el algoritmo sustituye al “otro” y trabaja para obtener y ordenar los datos personales para el líder, se fortalecen los falsos mesías que se alimentan de nuestros más profundos deseos y manipulan sus ofertas para imponer sus propios objetivos. A diferencia de los años veinte, hoy todo esto sucede mientras las máquinas maduran, pero, como los niños mal educados o los jóvenes sin límites, a la larga, en vez de ciudadanos responsables, pueden acabar siendo sicarios despiadados o tiranos devastadores.

La alerta queda sobre la mesa, no para frenar el desarrollo tecnológico, sino para dejar de pensar en el pasado y en la superioridad humana y asumir, como dijo el primer ministro canadiense, que el mundo ya cambió. Es tiempo de actuar y generar los mecanismos de control desde la conciencia, antes de que sea demasiado tarde.

Alejandra Cullen Benítez

Economista experta en administración pública con experiencia en transformación digital, desarrollo institucional y creación de estructuras de negocio en sectores público y privado.