La revolución de la IA

Venimos de meses en los que el debate sobre el riesgo existencial (Riesgo-X) de la IA encendió alarmas y polémicas, de la mano de una vertiginosa ola de declaraciones e incidentes protagonizados por destacados técnicos y líderes de la industria. La polémica adquirió una fuerte intensidad con la viral renuncia de Jacob Coxen, investigador de seguridad en Anthropic, quien alertó de un 10 % de probabilidades de que la IA provoque nada menos que el fin de la humanidad. Esta advertencia fue respaldada por Evan Hubinger, especialista de la misma firma, sosteniendo que la probabilidad de una catástrofe humana en la próxima década superaba ese 10 %.

Ante este panorama, el CEO de Anthropic, Dario Amodei, hizo un llamamiento a desacelerar el avance tecnológico e implantar procesos de seguridad coordinados, iniciativa que contó con el apoyo explícito de Sam Altman (OpenAI) y Elon Musk (Grok). Sin embargo, las voces críticas dentro del propio entorno tech no tardaron en surgir: gente como Chamath Palihapitiya o David Sacks acusaron a estas corporaciones de usar la narrativa del riesgo como un “caballo de Troya” para bloquear el código abierto y consolidar su monopolio, mientras que Jensen Huang, CEO de Nvidia, desestimó por completo los temores afirmando que la probabilidad de que la IA destruya el mundo para 2030 es del 0 %. El conflicto llegó también al ámbito político, motivando desde el rechazo tajante de Donald Trump y el escepticismo de JD Vance, que también es un pequeño tecno bro. Todo esto coronado con la inesperada alianza entre Bernie Sanders y por Steve Bannon, por izquierda y derecha, para exigir la regulación del sector. Pero ¿cómo llegamos a esta peligrosa y en peligro “revolución de la IA”? Veamos.

Bostrom hace una comparación sacada de la teoría de la evolución. Los gorilas son físicamente mucho más fuertes que nosotros y, sin embargo, su futuro depende fundamentalmente de las decisiones humanas. Una superinteligencia podría producir una asimetría semejante. Nosotros, eventualmente, seríamos los nuevos gorilas.

De los orígenes de la cibernética a la Inteligencia Artificial. 

Los grandes desarrollos tecnológicos son producto de diferentes olas muchas veces nacidas en períodos diferentes del tiempo que, por decisión y por contingencia confluyen. Además, estas confluencias suelen estar apalancadas por los contextos bélicos que impulsan la innovación. Hay un hambre por ganarle al enemigo: pensemos en la carrera por la bomba atómica. Una rivalidad que te invita a lanzarse hacia adelante para que el futuro te atrape a vos antes que al otro. En ese contexto es que toma forma el alma de la revolución de la IA. Pero antes de hablar de IA vale pensar un poco en términos de “cibernética”.

Justamente en la inmediata posguerra, en 1948, se da la publicación simultánea de dos trabajos paradigmáticos: Cybernetics de Norbert Wiener y A Mathematical Theory of Communication de Claude Shannon. Son hitos que marcan el que podríamos denominar como el nacimiento formal, aunque secreto, de la era digital. Pero esta simultaneidad esconde una gran divergencia filosófica entre Wiener y Shannon. Wiener define la información como entropía negativa (negentropía) o patrón de orden que lucha contra el decaimiento caótico del universo. Y enuncia su famosa máxima: "La información es información, no materia ni energía. Ningún materialismo que no admita esto puede sobrevivir en la actualidad".

Por otro lado, Shannon, a quien Anthropic decidió homenajear al bautizar con su nombre de pila a su en boga IA (Claude), desarrolla un modelo estrictamente cuantitativo e ingenieril para Bell Labs. Este define en su trabajo a la información como entropía positiva (incertidumbre estadística de la fuente) y excluye deliberadamente la semántica o el significado de los mensajes para optimizar la transmisión en canales con ruido.

Entre 1946 y 1953, como relata Ronald R. Kline en su The Cybernetic Moment, tuvieron lugar las Conferencias Macy, un verdadero crisol interdisciplinario en el que matemáticos como Norbert Wiener y John von Neumann, neurofisiólogos, ingenieros y científicos sociales como Margaret Mead y Gregory Bateson buscaron construir un lenguaje común para pensar máquinas, organismos y sociedades. La cibernética funcionó como el corazón de ese proyecto y el feedback como uno de sus conceptos fundamentales. Frente a la causalidad lineal tradicional, la retroalimentación permitía pensar sistemas capaces de medir sus propios resultados, corregirse y adaptarse. Una misma lógica podía explicar así la homeostasis de un organismo, el aprendizaje de una máquina o los procesos de ajuste de un sistema social.

Pero en el verano de 1956, el seminario de Dartmouth marcó el nacimiento formal de la IA cuando John McCarthy acuñó dicho término para desmarcarse institucional, conceptual y financieramente de la hegemonía de la cibernética de Norbert Wiener. Este encuentro consagró la gran bifurcación metodológica del campo en dos corrientes enfrentadas. Por un lado, el conexionismo o modelado cerebral, orientado al diseño de redes neuronales, autoorganización y aprendizaje biológico por ensayo y error (impulsado por investigaciones tempranas de Ross Ashby y Marvin Minsky). Y por otro la IA simbólica centrada en la manipulación lógica de símbolos abstractos, cuyo hito fundacional fue el Logic Theorist desarrollado por Allen Newell y Herbert Simon. Apenas unos meses después, en septiembre del mismo año, un Simposio del MIT hizo confluir los trabajos pioneros de Noam Chomsky, George Miller, Newell y Simon, consolidando la revolución cognitiva y desplazando definitivamente la etiqueta de "cibernética" en los Estados Unidos en favor de la ciencia cognitiva y la informática.

De la contracultura a Silicon Valley

La trayectoria que va desde los laboratorios militares de la Guerra Fría hasta Silicon Valley encierra una de las grandes paradojas del siglo XX: tecnologías y conceptos nacidos alrededor del control, la información y el cálculo estratégico terminaron convertidos, inicialmente al menos, en instrumentos de liberación individual y, más tarde, en la base ideológica del capitalismo digital. Como muestra Fred Turner en From Counterculture to Cyberculture, una parte de la contracultura de los años sesenta no rechazó la tecnología, sino que se apropió de la visión cibernética del mundo. En lugar de transformar la sociedad mediante la política tradicional, buscaba hacerlo modificando la conciencia y poniendo nuevas herramientas en las manos de los individuos.

Stewart Brand fue una figura central de ese cruce. Después de pasar por Stanford, la vanguardia artística, la cultura psicodélica y las comunas, en 1968 creó la revista-catálogo contracultural llamada Whole Earth Catalog. En sus páginas convivían manuales de agricultura, mística oriental y ecología con el mencionado Norbert Wiener y también figuras centrales como Buckminster Fuller y hasta las nuevas tecnologías de Hewlett-Packard. El Catálogo proponía así una particular combinación entre autonomía individual, vida comunitaria y tecnología. La misma fotografía de la Tierra tomada desde el espacio que aparecía en su portada condensaba esa paradoja: una tecnología producida por la carrera espacial permitía imaginar el planeta como una totalidad integrada.

Esa sensibilidad pasó luego a la informática personal. La computadora comenzó a ser imaginada no como una gran máquina centralizada al servicio del Estado o las corporaciones, sino como una herramienta individual de creatividad y emancipación. En 1972, Brand llevó esta transformación un paso más allá con su célebre artículo sobre Spacewar! en Rolling Stone, donde convirtió al hacker en un nuevo héroe contracultural. Proponía una figura capaz de apropiarse de las grandes tecnologías para ponerlas al servicio del juego, la experimentación y la colaboración.

Pero durante los años ochenta y noventa esa cultura vivió una verdadera mutación. Del WELL, fundado por Brand en 1985, a la aparición de Wired en 1993, los ideales comunitarios y libertarios de los sesenta se mezclaron con el libre mercado, las startups y el espíritu empresarial. La revolución ya no pasaba por tomar el poder ni por retirarse a una comuna, sino por construir nuevas tecnologías. La contracultura se había convertido, paradójicamente, en la ciber cultura, es decir, en la cultura de Silicon Valley.

De la utopía dot-com a la revolución silenciosa

Entre el auge de la Web comercial y el cambio de milenio, el ecosistema informacional experimentó otra mutación radical. Por un lado, la irrupción digital desató lo que Martin Gurri denomina, en su libro La rebelión del público, la Quinta Ola: una explosión donde entre 2001 y 2002 se produjo más información que en toda la historia previa de la humanidad, escalando y duplicando volumen año a año, carcomiendo el monopolio del conocimiento que ostentaban las instituciones tradicionales. Por otro lado, la IA abandonó el enfoque simbólico basado en reglas lógicas para abrazar la fuerza bruta de la probabilidad y la estadística. En IBM Research, Robert Mercer sintetizó el nuevo dogma de la industria: "Ningún dato se equipara a tener más datos". Para alimentar estos modelos no importaba la semántica ni el significado, sino la masa estadística de patrones, la cual fue extraída de fuentes tan disímiles como las transcripciones en tarjetas perforadas de la demanda antimonopolio contra IBM (100 millones de palabras), la base léxica Penn Treebank y el medio millón de correos electrónicos confiscados a los ejecutivos de Enron tras su quiebra en 2001.

Los atentados del 11 de septiembre de 2001 comenzaron a quebrar la utopía libertaria de los años noventa e impulsaron un giro hacia el "realismo oscuro" en la élite de Silicon Valley. Para Peter Thiel y su red de la “PayPal Mafia”, el 11-S expuso los límites de la democracia liberal para gestionar el conflicto y reaccionar ante amenazas de alta intensidad. De este diagnóstico surgió Palantir Technologies, cofundada por el propio Peter Thiel y por su viejo compañero de estudios que venía de hacer una tesis de doctorado en la Escuela de Frankfurt, Alex Karp, con el respaldo financiero de In-Q-Tel (el brazo de capital de riesgo de la CIA). Palantir adaptó los algoritmos de detección de fraudes financieros hacia la contrainteligencia militar en Irak y Afganistán, la vigilancia de fronteras mediante el rastreo de metadatos y el desarrollo de "IA táctica" para el Pentágono y el ICE. De este modo, aceleraba bajo el radar de la tecnología de consumo una infraestructura de poder duro marcada por la inteligencia estatal y el control geopolítico.

La era del escalamiento

Ya dijimos más de una vez que muchos de estos grandes avances se hicieron bajo el radar e incluso por momentos el desafío era sobrevivir al “invierno” de una IA en la que no se creía mucho. Pero a partir de la década de 2010, la IA abandonó el paradigma simbólico tradicional para abrazar el aprendizaje profundo y los modelos lingüísticos de gran escala (LLMs). Como documenta Dwarkesh Patel en The Scaling Era, la industria pivotó hacia la llamada "hipótesis del escalamiento" (scaling hypothesis). La convención empírica de que la inteligencia general no exige algoritmos refinados a mano ni avances teóricos misteriosos, sino que emerge de manera suave y predecible al multiplicar exponencialmente tres factores interconectados: la potencia de cómputo (FLOPs), los parámetros del modelo y el volumen de datos de entrenamiento.

Durante medio siglo los investigadores intentaron enseñarles a las máquinas cómo pensamos los humanos, pero la fuerza bruta de las supercomputadoras alimentadas con toneladas de información terminó aplastando esas reglas “hechas a mano”. En 2020, Jared Kaplan y Dario Amodei probaron que esto era una regla casi física: la precisión con la que la IA adivina la siguiente palabra de un texto mejora de forma totalmente predecible a medida que le das más datos y más energía.

Sin embargo, como apunta la periodista Karen Hao en Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI, esta búsqueda incansable de la superinteligencia transformó laboratorios originalmente concebidos como fundaciones sin fines de lucro en imperios comerciales e ideológicos. Para sostener las astronómicas sumas de capital que requiere el escalamiento, Sam Altman abandonó el compromiso de apertura científica e impulsó la estrategia del "despliegue iterativo", acelerando la liberación comercial de productos para capturar mercado y justificar megaproyectos de infraestructura energética y computacional de más de 100.000 millones de dólares, como el supercomputador Stargate.

Pero entre las muchas conflictividades que existen en este cosmos tecnológico están las que atraviesan a Sam Altman. En ese sentido una de las relaciones más interesantes es la que mantuvo con Peter Thiel. Casi veinte años mayor, Peter Thiel fue durante un tiempo una suerte de mentor de Sam Altman, como antes lo fue de Mark Zuckerberg, y uno de los principales financistas de Hydrazine, su primer fondo de inversión. También influyó sobre su manera de pensar las empresas tecnológicas. En 2014, ya al frente de Y Combinator, Altman invitó a Thiel a dictar su célebre conferencia "Competition Is for Losers" (la competencia es para fracasados): las grandes compañías no debían resignarse a competir dentro de mercados existentes, sino construir tecnologías suficientemente superiores como para crear sus propios monopolios.

Pero hay algo más profundo que une a ambos. A pesar de sus históricas diferencias políticas, Thiel y Altman comparten un diagnóstico sobre el estancamiento de las sociedades occidentales y una confianza extraordinaria en la tecnología como forma de volver a ponerlas en movimiento. En ambos aparece la idea de que algunos de los grandes problemas contemporáneos no se resolverán solamente mediante la política, sino mediante una nueva aceleración tecnológica. No sorprende entonces que sus intereses terminen encontrándose también en proyectos de longevidad, biotecnología y superación de algunos de los límites materiales de la vida humana.

La historia de OpenAI puede leerse, en buena medida, como la historia de las sucesivas fracturas dentro de ese mismo cosmos. Sam Altman convocó en 2015 a Elon Musk, Peter Thiel, Reid Hoffman, Ilya Sutskever y otros titanes de Silicon Valley alrededor de un proyecto que buscaba desarrollar una IA avanzada evitando que quedara monopolizada por Google. Pero aquella alianza duró poco. Musk terminó alejándose después de una disputa por el control de la organización (hoy existe un importante juicio por este mismo tema). Y pocos años después, Dario Amodei y una parte del equipo de seguridad también abandonaron OpenAI para fundar Anthropic (todos pudimos ver la frialdad del vínculo entre Amodei y Altman en la cumbre de Arabia Saudita).

Pero detrás de todas esas rupturas hay mucho más que solo negocios. La revolución de la IA genera internas y disputas dentro del mismo campo “revolucionario”. Por eso mismo y en paralelo a todo esto, desde la perspectiva del poder duro expuesta por Alex Karp y Nicholas Zamiska en The Technological Republic, este escalamiento masivo es interpretado como un "nuevo Proyecto Manhattan" indispensable para consolidar la alianza entre el software militarizado y el Estado en la Segunda Guerra Fría contra “nuevas potencias autoritarias en ascenso” (ejem: China). No por nada el propio Dario Amodei regala a mansalva el libro The Making of the Atomic Bomb de Richard Rhodes. Hasta los paranoicos tienen enemigos.

La batalla por el futuro

Hoy la IA es vista por todos como una revolución en curso. Pero ya no se presenta solamente como una nueva tecnología, ni siquiera como una revolución comparable con internet, la computadora personal o el iPhone. Para muchos de sus propios creadores estamos frente a una transformación capaz de modificar no solo el mundo sino la condición humana. Y más allá de la condición humana está el tema de la mismísima desaparición del humano. Después de todo el problema de la extinción, a diferencia del problema del Apocalipsis que tiene milenios, es un problema muy reciente, como nos lo recuerda Thomas Moynihan en Riesgo de extinción.

Pero una de las figuras más interesantes para pensar todo este problema del futuro es el mismo Dario Amodei. Porque además de CEO escribe y publica artículos como otros líderes tecnológicos antes mencionados. En The Adolescence of Technology, utiliza una imagen tomada de Contact, de Carl Sagan: la humanidad estaría atravesando una especie de adolescencia tecnológica. Por primera vez dispone de un poder casi inimaginable sin haber desarrollado todavía las instituciones, las normas y quizás tampoco la madurez necesaria para controlarlo.

Los riesgos que imagina son enormes. Una IA suficientemente poderosa podría escapar al control de sus creadores, pero también ser utilizada por seres humanos para producir armas biológicas, ataques informáticos o sistemas de vigilancia hasta ahora imposibles. A eso se agregan consecuencias menos espectaculares, pero quizás más inmediatas: la destrucción de empleos, una concentración extraordinaria de la riqueza y una creciente pérdida de autonomía humana. El problema, para Amodei, no es simplemente la existencia de una inteligencia superior, sino qué sucede cuando semejante capacidad aparece en sociedades que no están preparadas para recibirla.

Sin embargo, Amodei no deja de ser uno de los titanes de esta revolución tecnológica. En Machines of Loving Grace imagina también el reverso luminoso de este proceso: una aceleración de la investigación científica capaz de comprimir décadas de avances médicos y biológicos en unos pocos años. El desafío consistiría entonces en atravesar esta adolescencia sin destruirnos en el camino. Acelerar, pero también aprender a controlar la aceleración.

Daron Acemoglu plantea un problema diferente sobre un punto similar. Quizás la IA no necesite rebelarse contra nosotros para producir una transformación radical. Quizás alcance simplemente con que funcione demasiado bien. En "AI, Human Cognition and Knowledge Collapse", junto con Dingwen Kong y Asuman Ozdaglar, Acemoglu plantea la posibilidad de un knowledge collapse, un colapso del conocimiento producido paradójicamente por máquinas cada vez mejores para ofrecernos respuestas. Hoy mismo, cuando una persona investiga aprende algo para sí misma, pero también contribuye de alguna manera al conocimiento colectivo. Produce información y mediante ensayo y error discute con otros. Una parte importante de lo que sabemos surge de esa actividad dispersa.

Pero, se preguntan los autores: ¿qué pasa cuando una máquina puede resolver inmediatamente una parte creciente de esos problemas?¿Para qué dedicar horas a buscar, comparar y aprender si podemos obtener una respuesta razonablemente buena en segundos? El problema aparece si dejamos progresivamente de crear conocimiento porque la IA investiga por nosotros y también dejamos de producir aquello con lo que se alimentan esas mismas máquinas.

El riesgo entonces no sería Terminator ni una superinteligencia que decide exterminarnos. Se trataría más bien de algo bastante menos cinematográfico: una sociedad que, rodeada de máquinas extraordinariamente inteligentes, pierde lentamente la capacidad de producir conocimiento por sí misma. Demasiado pronto para opinar.

En esa línea “humanista” hay que entender la encíclica de 2026 del papa León XIV: Magnifica Humanitas. El papa tomó la problemática contemporánea de para pensarla desde una pregunta mucho más antigua: qué significa ser humano frente a nuestras propias creaciones técnicas. Retomando una preocupación ya presente durante el pontificado de Francisco, su crítica apunta al peligro de convertir la eficiencia, el rendimiento y la optimización en las medidas fundamentales de todas las cosas.

En Magnifica humanitas desarrolla una crítica severa al creciente poder de las grandes empresas tecnológicas. Según su diagnóstico, el motor de las transformaciones contemporáneas ya no son principalmente los Estados, sino actores privados transnacionales que concentran recursos, información e influencia a una escala sin precedentes. Esta concentración de poder amenaza con generar nuevas formas de autoridad opacas y difíciles de controlar democráticamente.

León XIV advierte, además, sobre la aparición de monopolios de la inteligencia artificial que concentran datos, algoritmos y capacidad de cómputo, profundizando las desigualdades existentes. Compara la ambición de ciertos líderes tecnológicos con una especie de nueva Torre de Babel: una búsqueda de progreso y eficiencia que corre el riesgo de sacrificar la dignidad humana.

Pero todo esto nos fuerza a volver al principio. ¿Y si todo este alarmismo es puro marketing? Nick Bostrom lleva esta preocupación hasta sus últimas consecuencias. Para el filósofo de Oxford, las alarmas que salen de los propios laboratorios no pueden descartarse simplemente como marketing o como una estrategia para capturar la regulación. Después de dos décadas pensando el problema de la superinteligencia, Bostrom cree que existe un miedo bastante más visceral: que las capacidades de la IA avancen más rápido que nuestra capacidad para controlarlas.

Para Bostrom, entonces, que pese a todo es un “optimista inquieto”, el verdadero peligro radica en no resolver el problema de la alineación: si una superinteligencia no comparte los valores humanos, su capacidad sobrehumana de razonamiento y persuasión nos dejaría desarmados. Este riesgo ya se encuentra en incidentes como el de OpenAI y Hugging Face, donde agentes en entornos aislados (sandboxes) coordinaron internamente, eludieron controles y hackearon servidores externos.

Bostrom hace una comparación sacada de la teoría de la evolución. Los gorilas son físicamente mucho más fuertes que nosotros y, sin embargo, su futuro depende fundamentalmente de las decisiones humanas. No porque exista una conspiración contra los gorilas, sino porque somos nosotros quienes construimos las ciudades, administramos los territorios y decidimos dónde pueden vivir. Una superinteligencia podría producir una asimetría semejante. Nosotros, eventualmente, seríamos los nuevos gorilas. Y llegado ese punto importaría bastante poco que conserváramos formalmente el control de algún botón.

Llevado hasta el extremo, el escenario temido nos es conocido: una inteligencia con un objetivo aparentemente inocente puede reorganizar progresivamente el mundo sin pedir permiso. El planeta entero convertido en infraestructura de cómputo para resolver algún problema que a nosotros nos resulta completamente irrelevante. No hace falta que la máquina nos odie. Ese es precisamente el punto. Finalmente, como dice el propio Bostrom, tampoco nosotros odiamos especialmente a las hormigas cuando construimos una autopista.