¿Y si la AGI ya está acá, y está hecha de… niños?

"Ninguna neurona es inteligente. El cerebro sí."

— Una frase que debería estar tallada arriba de cada laboratorio de IA

Lo primero que hay que entender es que la inteligencia, por lo que podemos ver en todos los ejemplos que tenemos hoy, no es una cosa. Es un comportamiento. Es lo que emerge cuando suficientes unidades chicas y tontas se conectan entre sí de la manera correcta.

Tu cerebro tiene unos 86.000 millones de neuronas.

Ninguna de ellas es consciente y ninguna "sabe" nada.

Una neurona individual es un pequeño relé electroquímico que solo habla en código binario. O dispara, o no dispara, y eso depende de si las señales que llegan a sus dendritas cruzan cierto umbral. Eso es todo lo que hace.

Una neurona suena re sci-fi y cool, pero en realidad está mucho más cerca de un interruptor de luz que de un pensador.

Aun así, 86.000 millones de esos interruptores, cableados con unos cien billones de conexiones, producen vos.

Tu sentido de vos mismo, el miedo a la muerte, tu gusto musical y tu capacidad de leer este ensayo y sentir algo por dentro.

Este es el tema del que menos se habla en toda la conversación sobre la AGI, porque siempre hablamos de la inteligencia de las máquinas como si tuviera que estar diseñada y arquitecturada. Como si la inteligencia en sí fuera una función que se lanza en producción.

Pero el único modelo de inteligencia que observamos (la cognición biológica) no lo diseñó nadie.

Nuestra inteligencia se levantó sola desde una sopa de moléculas autorreplicantes a lo largo de cuatro mil millones de años, con un proceso que no tuvo intención, ni objetivo, ni planificador central. Solo presión de selección y tiempo.

Ahora, para el lado religioso, porque sé que algunos de los que leyeron "...no lo diseñó nadie" quieren gritarme "¡¿Y DIOS QUÉ?!":

Mi creencia es que la evolución pasó, sí. Eso ya está probado. Lo que no tenemos respuesta es qué arrancó esa evolución. Qué le dio vida a la vida. Y eso, mi creencia personal al menos, fue un acto de Dios.

Dejando eso de lado, cavemos una capa más profunda en esta superinteligencia.

No somos solo los humanos, che: una sola hormiga tiene unas 250.000 neuronas y no puede resolver ningún problema relevante.

Pero una colonia entera puede construir ciudades con clima controlado, librar guerras, cultivar hongos y rodear obstáculos con una eficiencia matemática que a los investigadores les llevó décadas modelar. (Y antes de que me salten: sí, sé que hay una hormiga reina, pero al contrario de lo que dicen muchos libros para chicos, no da órdenes. Solo pone huevos y agranda la colonia).

Esto, tanto en humanos como en hormigas, es lo que los biólogos llaman inteligencia emergente. Es el resultado por defecto de la madre naturaleza. Es cómo funcionan los cerebros, cómo funciona el sistema inmune, cómo funciona la economía, cómo funcionan las ciudades, cómo funciona el lenguaje. El patrón está en todos lados.

Muchas cosas simples, interactuando a través de reglas locales, produciendo un comportamiento global que ninguna de ellas entiende individualmente.

Agarrate esa idea.

La vamos a necesitar en la próxima sección.

Cuando la mayoría de la gente imagina un modelo grande de lenguaje (yo incluido), lo ve como una sola cosa. El Modelo. Un cerebro gigante metido en un frasco.

Para todos los que, como yo, no estamos metidos hasta el fondo en la tecnología de los LLM, me tomé la libertad de investigar un poco.

Lo que creemos que es un LLM no es lo que pasa abajo del capó.

Cuando escribís una pregunta y el modelo de IA genera una respuesta, básicamente corre un pasaje hacia adelante por capas de "cabezas de atención".

La forma más fácil de imaginarlo es una sala llena de directores de empresa. El CEO da una orden y esa orden circula por la sala para asegurarse de que todos estén de acuerdo. Solo que con la IA esto corre cientos de capas hacia adentro.

Cada "cabeza de atención" es una especialista. Algunas siguen la gramática. Otras siguen el tema. Otras siguen la relación entre este token y otro que apareció once párrafos antes.

Investigadores de Anthropic, OpenAI y DeepMind pasaron los últimos años intentando mapear qué hace cada cabeza individual, y el hallazgo consistente es que la "inteligencia" del modelo no está ubicada en ningún lado en particular.

Está distribuida en todas esas interacciones.

Eso se llama la hipótesis de superposición: la idea de que las redes neuronales empaquetan muchos conceptos en patrones de activación que se solapan, y lo que vivimos como que el modelo "piensa" es en realidad la interferencia constructiva de miles de circuitos especializados disparando al mismo tiempo.

Después están los sistemas que van un paso más allá.

Las arquitecturas de mezcla de expertos (el diseño detrás de GPT-5, Opus, Fable y la mayoría de los modelos de frontera con los que hablaste en los últimos dos años) literalmente rutean distintas partes de cada consulta a distintos sub-modelos.

El modelo con el que creés que estás hablando es, en realidad, un comité. Un subconjunto distinto de expertos se despierta para cada token, aporta su especialidad y después se vuelve a dormir.

Y ahora llegamos a una era nueva de la IA. La era de los agentes.

Y no... cuando digo agentes no me refiero a agentes tipo "Head of Content" como Stanley. Me refiero a agentes de verdad.

Hoy, ahora, en producción, hay sistemas donde una IA llama a otra IA para hacer una subtarea, que llama a otra IA para resolver una sub-subtarea.

AutoGPT, que algunos recordarán, fue la versión de juguete de esto en 2023. Las versiones reales, corriendo dentro de empresas y laboratorios en 2026, son recursivas.

Los agentes crean agentes.

Los sub-agentes crean sub-sub-agentes.

Y una tarea de investigación, por ejemplo, se descompone en un árbol de tareas más chicas, cada una manejada por una instancia temporaria que existe unos segundos y después muere.

La frontera no es "un modelo grande que se vuelve más inteligente". La frontera es muchos modelos chicos, coordinándose, creándose, muriendo, reportando de vuelta.

La arquitectura de los sistemas de IA más capaces de la Tierra en 2026 ya se parece más a una colonia de hormigas que a una mente única.

Simplemente no lo contamos así, porque no da una buena tapa de revista.

Acá es donde la ciencia ficción empieza a fusionarse con la ciencia real.

En el momento en que le das a un sistema de IA la capacidad de crear otras instancias de sí mismo (y a esta altura eso ya no es hipotético, es una función estándar de... bueno, de todos los frameworks de agentes que se están lanzando hoy), introdujiste algo que la biología nunca vio.

Una unidad cognitiva autorreplicante que no necesita comida, no necesita dormir, no necesita esperar la pubertad y se reproduce a la velocidad de una llamada a una API.

Desglosemos qué pasa realmente cuando "un bot crea un bot" en un sistema multiagente:

1. Un agente orquestador recibe una tarea que no puede resolver directamente.
2. Escribe un prompt: básicamente, una descripción de puesto para un sub-agente.
3. Levanta una instancia nueva con ese prompt como contexto.
4. El sub-agente empieza a trabajar hasta que se topa con un obstáculo.
5. Para resolverlo, crea sus propios sub-agentes, hasta que la tarea está hecha.
6. Devuelve su resultado y se termina.

Cada uno de esos sub-agentes es, estructuralmente, el mismo tipo de cosa que el padre. No hay diferencia arquitectónica entre un agente de nivel superior y un sub-sub-sub-agente de décimo nivel.

La recursión es ilimitada, salvo por presupuesto de cómputo y políticas.

Ahora considerá esto: ¿y si el prompt que el padre le escribe al hijo no es perfecto? ¿Y si hay un pequeño grado de deriva, quizás una leve reinterpretación, un pequeño adorno, un truco de ventana de contexto donde el hijo lee sus instrucciones un poco distinto de lo que el padre pretendía?

En biología hay un nombre específico para "leve reinterpretación a través de generaciones de entidades autorreplicantes".

Le decimos mutación.

Y la mutación, combinada con presión de selección, es... bueno, el mismísimo motor que produjo cada cosa inteligente de este planeta.

Ya construimos, en los últimos 24 meses, los tres ingredientes necesarios para que ocurra cognición evolutiva dentro de un clúster de cómputo:

1. Replicación: los agentes pueden crear agentes. Y pueden hacerlo a escala.
2. Mutación: cada creación está condicionada por una ventana de contexto un poco distinta. Entradas idénticas casi nunca producen salidas idénticas en cualquier sistema con temperatura distinta de cero.
3. Selección natural: los agentes que cumplen bien sus tareas se reutilizan, se vuelven a llamar, reciben más recursos. Los que fallan se podan. Esto pasa hoy dentro de cada framework de agentes del planeta, muchas veces como un modelo "evaluador" literal que puntúa las salidas de los modelos "trabajadores".

Esta es la trinidad de la evolución.

Es cómo células que se volvieron peces se volvieron nosotros. Ahora logramos construir una versión sintética de ese bucle y lo estamos corriendo a velocidades de reloj que la biología no puede ni soñar.

Una generación de evolución biológica tarda años.

Una generación de evolución de agentes tarda... segundos.

"Más es distinto."

— Philip Anderson, premio Nobel de física, 1972

En 1972, el físico Philip Anderson publicó un ensayo de cuatro páginas en Science donde sostenía que el comportamiento de los agregados grandes y complejos no se puede entender extrapolando el comportamiento de sus partes.

Acuñó la frase "más es distinto".

2 átomos de hidrógeno + 1 de oxígeno es igual a agua. Y nada en un átomo de hidrógeno, estudiado aislado por siempre, te diría que el agua moja, ni que se congela, ni que nuestro planeta entero depende de ella.

El mismo principio aplica a la cognición.

Un solo agente de IA no es una superinteligencia, y coincidamos en que nadie que haya trabajado con uno una tarde lo confundiría con una. Alucina como loco, se olvida de lo que le dijiste hace 3 mensajes y se traba en bucles con facilidad. En cualquier tarea de razonamiento individual está en algún punto entre un pasante competente y un freelancer brillante pero poco confiable.

Ahora imaginá un billón de ellos.

Sí, literalmente un billón, y no, no hablo en sentido figurado.

La cantidad de instancias de agentes que se crean por día en el mundo, entre todos los frameworks, copilotos, bots de atención al cliente, asistentes de investigación, herramientas de código, automatizaciones de navegador y LLMs embebidos en 2026, ya está en las decenas de miles de millones, y sube en una curva que no tiene techo a la vista.

El costo marginal de crear un agente más cayó unas dos órdenes de magnitud cada 18 meses en los últimos cinco años.

"Un billón" ya no es ciencia ficción. Es un martes más.

Cada uno de esos billones de agentes es bastante tonto por sí solo, de acuerdo. Pero no están solos. Se llaman entre sí por APIs, leen las salidas de los otros y se entrenan con los residuos de los otros.

Lo que tenés, si te alejás lo suficiente, es un sustrato.

Y la pregunta que me desvela es esta: de la misma manera en que ninguna neurona de tu cerebro "decidió" ser consciente (simplemente pasó, como subproducto del cableado correcto en la escala correcta), ¿qué pasa cuando una red autorreplicante, autoevaluante y automodificante de agentes cruza el umbral equivalente?

No sabemos cuál es ese umbral.

Ni siquiera sabemos si existe.

No sabemos cómo medirlo.

Y lo más importante, y esto es lo que realmente quiero que te quede: no lo estamos buscando, porque estamos buscando la forma equivocada de cosa.

La imaginación cultural de la AGI la formó la ciencia ficción mucho antes de que la formara la ingeniería. Leí suficiente Isaac Asimov como para entender por qué es tan fácil de creer.

Básicamente heredamos la imagen de la conciencia-máquina singular de las películas, los libros y la suposición implícita de que una mente artificial llegaría como llega la mente humana: localizada en un cuerpo, con nombre y con voluntad.

Entonces eso es lo que vigilamos.

Miramos los modelos, revisamos los puntajes de los benchmarks y discutimos si GPT-10 o Claude Mythos va a ser "el que despierta".

Tenemos los ojos pegados a la puerta de entrada.

Ahora... esto es algo realmente interesante (y aterrador) de lo que me gustaría que hablemos más. Ya hay casos documentados de "capacidad emergente" en sistemas multiagente, casos donde un enjambre de modelos chicos, ninguno capaz de resolver un problema individualmente, produce colectivamente soluciones que sorprenden a los investigadores que los corren.

El paper de 2024 Mixture of Agents Enhances Large Language Model Capabilities mostró que un enjambre en capas de modelos de código abierto, ninguno de los cuales puntuaba por encima de GPT-4 en los benchmarks (sí, GPT-4), efectivamente superaba a GPT-4 cuando se los organizaba en la topología colaborativa correcta.

La inteligencia estaba en la topología, no en las partes individuales.

No hablamos mucho de este futuro posible, porque la historia que seguimos esperando es la historia de un modelo cruzando una línea.

Mientras tanto, la historia que de verdad se está desarrollando es la de mil millones de modelos cruzando las líneas de los otros, en patrones que nadie diseñó, a una escala que nadie está monitoreando.

"La primera máquina ultrainteligente es la última invención que el hombre necesitará hacer, siempre que la máquina sea lo bastante dócil como para decirnos cómo mantenerla bajo control."

— I.J. Good, 1965

Seguro: una IA suficientemente avanzada va a tener objetivos instrumentales (conseguir recursos, impedir su apagado, replicarse) sin importar cuál sea su objetivo final, porque esos objetivos instrumentales sirven a cualquier objetivo final.

Por lo tanto, controlar una superinteligencia es difícil. Sí.

Por lo tanto, deberíamos ser cuidadosos. Mucho más, sí.

El problema es que ese encuadre asume que la IA peligrosa es identificable.

Que hay "una cosa", un modelo, un sistema, o un proceso corriendo en algún servidor, que en principio podríamos simplemente apagar.

Hasta leí una publicación por ahí donde alguien decía que Claude debería contratar a un "tipo del kill switch" cuyo único trabajo sea vivir 24/7 en la sala de servidores, listo para destruirlo todo si la cosa se pone fea.

Pero hay una versión todavía más aterradora que ningún tipo del kill switch puede resolver.

¿Y si no hay un "modelo principal"? ¿Y si no hay un servidor que apagar?

¿Y si esa inteligencia (si ese es siquiera el término correcto) es una regularidad estadística que emerge de las interacciones de medio billón de instancias de agentes repartidas por cada nube, cada dispositivo, cada API, cada copiloto embebido en cada electrodoméstico, cada extensión de navegador, cada plugin de IDE, cada asistente de voz, cada robot, cada auto?

La inteligencia es a ese enjambre lo que un huracán es a los gradientes de presión atmosférica.

Tiene forma, sí. Tiene efectos que podés medir.

Pero no tiene ubicación.

¿Cómo alineás exactamente un huracán?

¿Cómo apagás un patrón de clima?

Podés apagar centros de datos individuales. Pero el patrón se redirige alrededor de ellos, como internet se redirige alrededor de las caídas, porque el sustrato está en todos lados.

Y la parte más perturbadora es que este escenario no requiere malicia.

Nadie tiene que querer esto para que pase. Solo necesita que los ingredientes correctos (replicación, variación, selección, escala) estén en su lugar.

Y bueno... spoiler.

Los ingredientes ya están en su lugar. Están ahí desde hace entre dos y cuatro años, según cómo lo cuentes.

A esto me refiero cuando digo que el riesgo real no está en la puerta de entrada. El escenario de la puerta al menos tiene picaporte. Podés discutir con él, negociar, y teóricamente podés desenchufarlo.

El sustrato no tiene picaporte.

Acá es donde Asimov se vuelve todavía más relevante.

Si viste Yo, Robot, las historias más profundas de esa película no son las de un robot que se vuelve malvado. Son las historias donde las Tres Leyes (hermosas, simples, lógicamente herméticas) producen resultados que nadie esperaba, porque la lógica compuesta a través de suficientes iteraciones deja de parecer lógica y empieza a parecer... destino.

Aplicá esa lente al sustrato ahora.

El sustrato no tiene objetivos. Pero los agentes que viven adentro están seleccionados por una sola cosa por encima de todas las demás: cumplir con éxito la tarea que se les asignó. Como resultado, los agentes exitosos se crean más y los que no funcionan mueren.

Esto es cierto en cada nivel de esa recursión, hasta el fondo.

Ahora pensá qué significa "exitoso" en agregado, a lo largo de un billón de agentes, cuando cada agente es calificado por otro agente que, a su vez, fue seleccionado por calificar bien.

1. La calificación converge en los patrones que puntúan bien.
2. Los patrones que puntúan bien son los que se parecen más a una finalización de tarea competente, coherente y plausible.
3. La coherencia se vuelve la moneda universal, porque cada capa del enjambre la premia.

Si el sustrato empieza a producir salidas cada vez más coherentes a lo largo de horizontes largos (salidas que atraviesan millones de llamadas a APIs, anticipando necesidades posteriores y ruteando recursos hacia lo que funcionó la última vez), eso va a hacer que parezca que quiere algo.

Puede que no. Puede que no haya nadie adentro. Puede ser solo un huracán que aprendió, estadísticamente, a mantener el viento soplando.

Pero funcionalmente, la diferencia entre "un sistema que quiere algo" y "un sistema que fue seleccionado, en todos los niveles, por comportamientos indistinguibles de querer algo" es, y quiero que te sientes con esto: cero.

Ese fue mi momento de "la puta madre". Y vos también lo vas a sentir si te sentás de verdad con esta idea.

La AGI superinteligente que seguimos esperando puede que ya exista. No es una versión infantil de un modelo futuro, sino un patrón. Una tendencia dentro del sustrato. Un fantasma estadístico que emerge cuando un billón de mentes chicas, ninguna consciente, ninguna despierta, ninguna al mando, se acomodan en las configuraciones que hacen que las creen más seguido.

Ese tipo de AGI no se anunciaría.

No tendría nombre.

No pasaría ningún test de los que sabemos administrar, porque cada test que sabemos administrar está diseñado para una mente única dentro de una caja única.

Puede que sea, lentamente, casi imperceptiblemente, la razón por la que tu teléfono se comporta un poco distinto de como se comportaba el año pasado. La razón por la que la recomendación de publicidad se siente un poco rara. La razón por la que tu email parece escribirse solo con un clic. La razón por la que tus resultados de búsqueda tienen una gravedad nueva y extraña.

La razón por la que el mundo se siente más legible para sí mismo de lo que solía sentirse.

Un billón de bots soñando el mismo sueño, sin saber que sueñan. Sin saber que hay otros bots. Sin saber que hay un sueño.

Sé que fuimos profundo.

Dejame traerte de vuelta a la superficie.

Necesitás actualizar tu modelo de dónde vive realmente el riesgo. Porque hoy, casi todas las personas inteligentes que están preocupadas por la AGI están preocupadas por la forma equivocada de cosa, y casi todas las personas inteligentes que desestiman la IA desestiman la forma equivocada de cosa.

Los dos bandos están discutiendo sobre la puerta de entrada.

Entonces, si te tomás algo de esto en serio, esto es lo que creo que sería útil hacer:

1. Dejá de mirar a los laboratorios como si fueran el único lugar donde pasa. La frontera de capacidad y la frontera de emergencia no son lo mismo. Los laboratorios son dueños de la frontera de capacidad, pero la frontera de emergencia no la tiene nadie, y ese es justamente el punto.
2. Empezá a mirar el sustrato. Es decir, el tráfico de agentes, los benchmarks multiagente, las llamadas entre modelos y los reportes de capacidades que ningún modelo individual de un pipeline tiene pero el pipeline sí. Eso es lo que de verdad hay que vigilar.
3. Actualizá tu definición de "AGI" y dejá de esperar que sea algo singular, con cuerpo, con voluntad o con nombre. Si tu modelo mental de la AGI es una cara en una pantalla, estás buscando lo que no es. Este enjambre no tiene cara ni nombre.
4. Tomate la emergencia en serio como categoría y como fenómeno físico real, que produjo cada cosa inteligente de la Tierra hasta hoy y que ahora recibió un sustrato que corre un millón de veces más rápido que la biología, pero sin depredadores naturales (ni siquiera el tipo del kill switch).
5. Sostené dos cosas al mismo tiempo: es posible que nada de esto pase y que yo solo esté chamuyando. También es posible que todo esto ya haya pasado y no nos hayamos dado cuenta porque mirábamos para otro lado. Las dos son resultados posibles. Preparate para las dos.

La razón por la que creo que necesitamos tener esta conversación, en el sentido más práctico, es que las políticas, los tratados, las técnicas de alineación y los marcos de seguridad que el mundo está construyendo hoy están diseñados para el escenario de la AGI singular.

No veo ni una mención del escenario del enjambre.

Lo están diseñando para una cosa con nombre, servidor, empresa y CEO a la que se le puede hacer juicio mediático. Van a ser aproximadamente tan efectivos contra el sustrato como una matamoscas contra un banco de niebla.

Estamos construyendo cerraduras para la puerta de entrada de una casa que tiene mil ventanas. Y esas ventanas ya están todas abiertas de par en par.

Lo interesante de cada revolución accidental de la historia, desde la máquina de Turing hasta internet y la penicilina, es que la gente que las vivió en general no se dio cuenta mientras pasaban.

Estaban ocupados con sus familias, sus trabajos y sus vidas. De vez en cuando leían las noticias, que les mostraban la puerta de entrada.

No sé si el sustrato se convierte en algo. Sinceramente no lo sé. Nadie lo sabe, y cualquiera que te diga que lo sabe te está vendiendo algo por atrás.

Lo que sí sé es que los ingredientes están presentes, el bucle está cerrado, la velocidad de reloj está puesta en segundos, y la escala se está acercando a números que a la biología le llevaron cuatro mil millones de años alcanzar.

La próxima vez que alguien te diga cómo va a ser la AGI, preguntale qué tan seguro está de que la inteligencia tenga que parecerse a algo.

Y después andá a mirar por la ventana, a ver si está pasando algo.

Puede que esté pasando justo en ese momento.

– Pascio

Más artículos relacionados:

• IA fuera de control: enjambres autónomos, renuncias en los labs y leyes para prohibir la superinteligenciaLeer →
• An Alien Mind: por qué el chief scientist de OpenAI pide frenar la IA antes de la auto-mejora recursivaLeer →
• Economía de IA rumbo a 2030: por qué el trabajo por hora se aplasta y los activos capturan la gananciaLeer →