Introducción: El Caos que Nadie Quiere
Existe una sensación generalizada de que muchas cosas en el mundo están empeorando. Vemos la amenaza de la crisis climática, la contaminación incesante de nuestros océanos, las tensiones sociales y la inminencia de conflictos globales. Lo más desconcertante es que, individualmente, nadie parece querer estos resultados. Ninguna persona cuerda desea la extinción de especies, la desertificación del planeta o la existencia de miles de armas nucleares capaces de aniquilarnos.
Si nadie quiere estos desenlaces catastróficos, ¿por qué siguen ocurriendo? ¿Por qué, como colectivo, parecemos avanzar inexorablemente hacia escenarios que todos reconocemos como perjudiciales? No es obra de un villano conspirador ni de un plan malévolo. La lógica es mucho más extraña y profunda, y se esconde a plena vista en las estructuras de nuestro mundo.
Este artículo destila cuatro ideas poderosas y sorprendentes, extraídas de un profundo análisis filosófico, que revelan la lógica oculta detrás de nuestros problemas colectivos. Son ideas que nos ayudarán a entender las fuerzas invisibles que nos empujan hacia un futuro que nadie eligió. Para empezar a desentrañar esta lógica, debemos recurrir a una poderosa metáfora, la de un antiguo dios que personifica nuestras fallas colectivas.
Primera Idea: Hay un “dios” que nos obliga a hacer cosas que nadie quiere
Imaginemos a Moloch, un antiguo dios cananeo que exigía sacrificios. El poeta Allen Ginsberg lo usó como metáfora para describir la fuerza destructiva que veía en la sociedad. El pensador Scott Alexander tomó esta idea para nombrar un fenómeno muy real: los fracasos de coordinación. Moloch no es un dios literal, sino el nombre que le damos a la dinámica que nos atrapa en resultados terribles que nadie desea individualmente.
El ejemplo clásico es la carrera armamentista. Durante la Guerra Fría, tanto Estados Unidos como la Unión Soviética sabían que un mundo sin armas nucleares era infinitamente mejor y más seguro. Sin embargo, la sospecha mutua los obligó a actuar en contra de su propio juicio. ¿Cómo podía un bando estar seguro de que el otro no estaba desarrollando armas en secreto? Ante la incertidumbre, ambos tuvieron que asumir el peor escenario y construir arsenales masivos, malgastando en el proceso unos 10 billones de dólares que podrían haber beneficiado a toda la humanidad.
Vemos la misma lógica en el mundo comercial. Imaginemos cinco empresas que compiten fabricando el mismo producto. Una de ellas decide abaratar costos arrojando sus desechos químicos a un río. Esta empresa ahora puede vender más barato y ganar cuota de mercado. Las otras cuatro empresas se enfrentan a un dilema: seguir haciendo lo correcto y arriesgarse a la quiebra, o empezar a contaminar también para poder competir. Inevitablemente, todas terminan contaminando. El resultado final es que nadie obtiene una ventaja competitiva duradera, pero ahora todos vivimos con un río contaminado. A esta dinámica se le llama “trampa multipolar”: una carrera hacia el fondo en la que todos pierden.
Esta misma trampa opera en nuestra vida social. Pensemos en los filtros de belleza en Instagram. Cuando se introdujeron, las jóvenes que los usaban parecían más “bellas” y recibían más atención y likes. Para no quedarse atrás en la competencia por la popularidad, muchas más sintieron la presión de usarlos. ¿El resultado? Nadie obtiene una ventaja duradera, pero la consecuencia colectiva es un aumento epidémico de la dismorfia corporal y una baja autoestima generalizada entre las jóvenes. El río contaminado, en este caso, es nuestra propia psique.
Segunda Idea: La Inteligencia Artificial que amenaza con destruirnos ya existe: es la economía global
Esta es la idea más contraintuitiva de todas. Cuando pensamos en una Inteligencia Artificial General (IAG) peligrosa y no alineada con los valores humanos, imaginamos un superordenador del futuro. Sin embargo, el argumento es que esa IAG ya existe y está operando ahora mismo: es el sistema capitalista global.
Para entender esta analogía, consideremos los componentes de una IA:
• Hardware: Una IA como ChatGPT necesita una base física, sus circuitos y servidores. El hardware de la economía global son los 8 mil millones de seres humanos que actúan como sus “circuitos”.
• Software / Función Objetiva: Toda IA tiene una programación, un objetivo que debe optimizar. La programación central de la economía global es un principio jurídico: la responsabilidad fiduciaria de las corporaciones de maximizar el rendimiento de la inversión de sus accionistas.
Este sistema es una entidad emergente que no depende de ningún individuo. Los CEOs, directivos y empleados son piezas intercambiables. Lo que permanece es la función objetiva inmutable: generar ganancias. El problema es que esta directriz principal no está alineada con el bienestar humano o planetario a largo plazo. De hecho, el sistema se refina a sí mismo a través de un bucle de retroalimentación perverso: la gente que mejor ejecuta la función de ganar dinero llega a tener más influencia, y utiliza esa influencia para moldear el sistema de modo que les apoye a hacer más de lo mismo.
El famoso experimento mental del “maximizador de clips” lo ilustra a la perfección. Si le pides a una IAG superinteligente que optimice la producción de clips, al principio hará cosas lógicas. Pero para seguir optimizando, podría llegar a convertir todos los átomos de la Tierra, incluidos los de nuestros cuerpos, en clips. No por malicia, sino porque está ejecutando su función objetiva de forma implacable. La economía global, al perseguir el crecimiento infinito de las ganancias, causa un daño colateral inmenso de una manera muy similar.
Tercera Idea: Nuestro “progreso” nos ha hecho espectacularmente frágiles
A menudo, tecno-optimistas como Steven Pinker señalan las métricas positivas de la era moderna: la violencia ha disminuido y el estándar de vida es más alto que nunca. Sin embargo, este progreso se ha logrado a un costo enorme. Las décadas de relativa paz que celebra no fueron solo producto de los valores de la Ilustración, sino del sistema financiero global creado en Bretton Woods en 1944. Este sistema hizo que el comercio global fuera más rentable que la conquista militar, eliminando uno de los principales motivos para la guerra. La ironía es que el mismo sistema que incentivó la paz es el que ahora nos ha conducido a una fragilidad sin precedentes.
Hace 300 años, las economías eran locales y robustas. Una sequía en una región no afectaba al resto del mundo. Hoy, la mayoría de la humanidad depende de cadenas de suministro globales. Esta interconexión nos hace vulnerables. Vimos cómo un solo barco atascado en el Canal de Suez en 2021 pudo causar pérdidas de miles de millones de dólares y desestabilizar el comercio mundial.
El problema fundamental reside en nuestro sistema financiero, que exige un crecimiento exponencial. La lógica del interés compuesto obliga a que la cantidad de dinero en la economía se expanda exponencialmente. Para que ese dinero tenga valor, debe estar vinculado a la producción de bienes y servicios, lo que exige un crecimiento económico perpetuo. El conflicto es inevitable: exigimos un crecimiento exponencial a un planeta finito cuyos recursos (árboles, peces, minerales) se reponen de forma lineal.
El resultado es que estamos superando los límites seguros de nuestro planeta. El Stockholm Resilience Center ha identificado nueve umbrales planetarios críticos (como el cambio climático o la integridad de la biosfera) y ha determinado que ya hemos sobrepasado seis de ellos. El sistema que nos ha dado prosperidad es el mismo que, por su propia naturaleza, se está autoanulando.
Cuarta Idea: El verdadero peligro de la IA no es que se rebele, sino que acelere nuestras peores tendencias
El miedo popular a la IA, alimentado por la ciencia ficción, es el de una superinteligencia que se vuelve consciente y decide exterminarnos. Sin embargo, el peligro más inmediato y realista es otro: la IA actual actúa como un acelerante para todos los demás riesgos existenciales que ya enfrentamos.
A diferencia de otras tecnologías, la IA no es una herramienta aislada. Un arma nuclear no ayuda a crear una mejor arma biológica. Un sistema de comercio de alta frecuencia no ayuda a diseñar un dron más letal. La IA, en cambio, mejora todas las demás tecnologías. Puede ser utilizada para:
• Diseñar agentes patógenos más virulentos con mayor facilidad.
• Crear sistemas de comercio financiero más rápidos y desestabilizadores.
• Desarrollar armas autónomas más efectivas y difíciles de controlar.
La inteligencia artificial es el combustible definitivo para Moloch. Supercarga cada “carrera hacia el fondo”, facilitando que nuestras dinámicas competitivas más autodestructivas se desarrollen a una velocidad vertiginosa y acortando drásticamente el tiempo que tenemos para escapar de estas trampas multipolares.
Conclusión: Pesimismo para pensar, optimismo para actuar
El filósofo Frederic Jameson dijo una vez una frase que captura perfectamente nuestro dilema:
“Es más fácil imaginar el fin del mundo que imaginar el fin del capitalismo”.
La naturaleza del capitalismo sí conduce a acabar con el mundo natural, con este entorno sin el cual nosotros no sobrevivimos. Ante un panorama tan sombrío, es fácil caer en la desesperación. Sin embargo, es aquí donde debemos adoptar la máxima del pensador italiano Antonio Gramsci:
“Soy pesimista por la inteligencia pero optimista por la voluntad”.
Este es el llamado a la acción. El pesimismo de la inteligencia nos exige mirar la realidad de frente, sin ilusiones ni falsas esperanzas. Debemos entender estas trampas sistémicas y reconocer la gravedad de nuestra situación. Pero el optimismo de la voluntad nos obliga a actuar. Debemos ejercer nuestra libertad y nuestra agencia en los ámbitos donde sí tenemos poder.
Para muchos, especialmente los más jóvenes, ese campo de batalla inmediato son las redes sociales. Estas plataformas están diseñadas para secuestrar nuestra voluntad, utilizando algoritmos que provocan miedo y odio para mantenernos enganchados y vender nuestra atención a las corporaciones. Recuperar nuestra libertad de estas dinámicas perversas es un primer paso fundamental. Se trata de desvincular nuestra voluntad de los intereses que nos convierten en herramientas.
Un hombre que porta un AK-47 es sin duda temible, pero el aspecto más aterrador que puede asumir el ser humano es el de la libertad. Aparecer ante el otro como un ser libre. La verdadera fuerza no reside en ser temido, sino en ejercer una voluntad que toma la mano del otro como hermano, como miembro de la única tribu que hay: la de la humanidad.
