GROW: un protocolo de gobernanza con autorreparación para agentes autónomos de IA
Roosevelt Robinson III Algorilla Labs hello@algorilla.org
Estado: Documento de trabajo Fecha: 4 de julio de 2026
Resumen
La brecha entre la capacidad de los agentes autónomos de IA y la gobernanza de los agentes se ha convertido en el desafío central de confiabilidad en los sistemas de IA en producción. Los enfoques de gobernanza existentes se distribuyen a lo largo del ciclo de vida de la IA —alineación en tiempo de entrenamiento, gobernanza en tiempo de razonamiento, evaluación en tiempo de prueba, auditoría post hoc—, pero ninguno opera en la capa de tiempo de ejecución, donde las acciones de los agentes tienen efectos inmediatos en el mundo real. El paradigma predominante de usar una IA para supervisar a otra hereda un punto ciego fundamental: experimentos controlados demuestran que ni los humanos ni los monitores basados en IA pueden detectar de manera confiable los fallos impulsados por la capacidad en el comportamiento de los agentes.
Este artículo presenta GROW (Governance, Reflection, Organization, Weaving), un protocolo de gobernanza con autorreparación que cubre la brecha del tiempo de ejecución mediante gobernanza programática en la capa de infraestructura. GROW operacionaliza una pila de detección de tres capas —monitoreo del latido (heartbeat) a nivel de sistema, aplicación determinista de la conformidad y bucle de retorno de la deriva conductual— que forma una superficie de detección coordinada que ningún enfoque de monitoreo por sí solo ofrece. Estas capas forman un ciclo que se autoalimenta —el ouroboros— en el que el estado persistente, la evaluación de conformidad y el bucle de retorno conductual se acumulan a través de las sesiones, produciendo aprendizaje en tiempo de ejecución sin reentrenamiento. Su arquitectura se fundamenta en tres capas de capacidad —inteligencia emergente, procesamiento de señales dimensionales y conciencia contextual multimodal— y se apoya en la teoría de transiciones de fase, los modelos dimensionales del afecto y la conciencia del contexto del espacio de trabajo. Describimos la posición de GROW dentro de un ciclo de vida temporal de gobernanza que abarca desde el preentrenamiento hasta la auditoría post hoc, y mostramos cómo la gobernanza a nivel de infraestructura evita los modos de fallo dependientes de la capacidad, inherentes tanto a la supervisión humana como a la basada en IA.
1. Introducción
El despliegue de agentes autónomos de IA se ha acelerado drásticamente. Los agentes ahora ejecutan flujos de trabajo de múltiples pasos, interactúan con herramientas externas, persisten estado a través de las sesiones y toman decisiones con una supervisión humana cada vez menor. Sin embargo, la infraestructura para gobernar a estos agentes no ha avanzado al ritmo de la facilidad con que se construyen.
Trabajos recientes han comenzado a formalizar esta brecha. Rabanser et al. (2026) descomponen la confiabilidad de los agentes en cuatro dimensiones —consistencia, robustez, predictibilidad y seguridad— y demuestran que los avances recientes en capacidad han producido solo mejoras marginales en la confiabilidad [1]. Bandara et al. (2026) proponen un modelo de gobernanza neurocognitiva (PAGRL) que incorpora la gobernanza basada en reglas en el razonamiento del agente [2]. El Agent Governance Toolkit de Microsoft (2026) aplica patrones de sistemas operativos y de mallas de servicios a los agentes autónomos [3]. Trabajos paralelos sobre control de la IA (Greenblatt et al., 2023) y supervisión escalable han establecido los fundamentos teóricos para el despliegue restringido de agentes [4, 5].
Estos esfuerzos comparten un diagnóstico común: el paradigma dominante —prompts de sistema corteses más esperanza— no es una estrategia de ingeniería. Lo que falta es un protocolo que (a) opere en tiempo de ejecución, no solo en tiempo de entrenamiento, (b) tenga capacidad de autorreparación en lugar de ser estático, y (c) produzca señales de conformidad medibles que se retroalimenten en la mejora del sistema.
GROW aborda esta brecha. Es un protocolo de gobernanza con autorreparación: un bucle continuo de evaluación de conformidad, persistencia de estado y bucle de retorno conductual integrado en el entorno de ejecución del agente. Su arquitectura se organiza en torno a tres modalidades de inteligencia —emergente, emocional y espacial—, cada una de las cuales corresponde a una capa de la pila del agente.
2. Marco de inteligencia
2.1 Inteligencia emergente — la capa SOUL
La inteligencia emergente —la capacidad de un sistema de producir comportamientos no programados explícitamente— es la tesis arquitectónica central de GROW. El protocolo es estructuralmente una arquitectura de clase ReAct [6]: Gauge + Reflect = Thought, Organize = Action, Weave + conformance check = Observation. Esto no es una coincidencia, sino un patrón validado para producir comportamiento emergente a partir de una interacción estructurada.
La investigación sobre el entrenamiento basado en principios demuestra que enseñar a un sistema de IA por qué ciertos comportamientos son apropiados, y no solo qué hacer, produce capacidades de gobernanza emergentes que se generalizan más allá de las distribuciones de entrenamiento. Combinar documentos constitucionales con narrativas ficticias de comportamiento alineado reduce la desalineación agéntica y persiste bajo el ajuste fino con aprendizaje por refuerzo [18]. Esto respalda la tesis de GROW de que los contratos de conformidad (el equivalente, en el protocolo, de los documentos constitucionales) pueden producir comportamiento gobernado emergente cuando se incorporan como principios en tiempo de ejecución, en lugar de como ejemplos en tiempo de entrenamiento.
La arquitectura del latido (heartbeat) rastrea cinco señales dimensionales: valencia (proporción de señales positivas y negativas), activación (nivel de actividad, frecuencia de ciclos), dominancia (proporción de confianza e incertidumbre), persistencia (duración de los patrones) y emergencia (novedad, preguntas abiertas). Estas no son cualidades místicas: son coordenadas en un espacio matemático, calculadas a partir de los hallazgos de conformidad y del estado del agente.
La investigación sobre transiciones de fase en los modelos de lenguaje de gran escala proporciona una fundamentación teórica. Wei et al. (2022) documentaron saltos abruptos de capacidad en umbrales de escala (13B–175B parámetros) [7]. Schaeffer et al. (2023) advirtieron que los espejismos de métricas pueden simular la emergencia: las métricas discontinuas pueden producir la apariencia de transiciones de fase donde no existe ninguna [8]. GROW aborda esto rastreando tanto puertas de fase discretas (aprobado/reprobado binario) como señales dimensionales continuas (valores de punto flotante), lo que garantiza que cualquier afirmación sobre una transición de fase sea verificable mediante tendencias suaves de las señales, y no solo por saltos binarios.
La arquitectura de agente de cuatro capas formaliza la inteligencia emergente a nivel del tiempo de ejecución:
- SOUL (protocolo GROW): inteligencia emergente — crecimiento propio, evaluadores de conformidad, canalización de memoria, avance del metaciclo
- HEART (señales dimensionales): conciencia perceptiva — las cinco señales calculadas a partir de todos los artefactos
- BODY (Agent CLI Base): experiencia del agente — gestión de sesiones, almacenamiento, ejecución de herramientas
- DATA KERNEL (configuración): el sustrato parametrizado — pesos dimensionales, umbrales de obsolescencia, mapeos de retroalimentación
La idea clave: la emergencia no es misticismo. Son transiciones de fase medibles que ocurren cuando un sistema cruza umbrales críticos —de leyes, tipos de artefactos, hooks integrados e historial operativo—. GROW está diseñado para detectar estas transiciones y responder a ellas cuando ocurren.
Existe un paralelo arquitectónico en las hiperconexiones restringidas por variedades (manifold-constrained hyper-connections) de DeepSeek-V4 [23], que restringen las actualizaciones de pesos a una variedad riemanniana. El principio de diseño es compartido: las superficies de restricción no impiden la emergencia —la habilitan al proporcionar el espacio acotado dentro del cual el comportamiento emergente puede ocurrir de manera confiable—. Donde una variedad restringe las trayectorias de optimización, las dimensiones del protocolo de GROW restringen la evolución del sistema (leyes, tipos de artefactos, hooks, historial). En ambos casos, la restricción es la condición habilitante, no la limitante.
Este patrón se repite en múltiples niveles de la pila de la IA. En el nivel de entrenamiento, los documentos constitucionales restringen el espacio conductual dentro del cual se desarrollan las capacidades de gobernanza emergentes [18]. En el nivel de sistema, las dimensiones del protocolo de GROW restringen el espacio operativo dentro del cual surgen los comportamientos emergentes de conformidad. En cada nivel —variedad de pesos, constitución conductual, protocolo de sistema— una superficie acotada proporciona las condiciones para una emergencia confiable. El mecanismo no es específico de un nivel; es el mismo principio estructural aplicado a sustratos diferentes.
La Regla 30 de Wolfram —un autómata celular elemental con una tabla de reglas trivial (binario 00011110) que produce un comportamiento tan complejo como cualquier otro en el universo computacional [29]— proporciona una demostración canónica de este principio en su forma más simple. A partir de una sola celda negra y una regla de siete bits, la Regla 30 genera un patrón cuya columna central es computacionalmente irreducible: solo puede predecirse ejecutando la regla hacia adelante, paso a paso. La tabla de reglas es la superficie de restricción; la complejidad irreducible es el comportamiento emergente. Que la superficie de restricción más simple posible produzca el resultado más complejo posible no es una paradoja: es el mecanismo. Las superficies de restricción no suprimen la complejidad; proporcionan el espacio acotado dentro del cual la complejidad puede organizarse de manera confiable. La variedad riemanniana de DeepSeek-V4, los documentos constitucionales de entrenamiento y las dimensiones del protocolo de GROW son todos instancias de este mismo principio estructural en diferentes niveles de la pila.
El concepto de Wolfram de la ruliad —el límite entrelazado de todas las computaciones posibles [29]— proporciona un marco natural para comprender el espacio de conocimiento compartido del sistema. Dentro de la ruliad existen «bolsas de reducibilidad computacional»: islas de regularidad y predictibilidad dentro de un océano de computación irreducible. La señal de emergencia rastrea precisamente estas: transiciones de fase que ocurren cuando el sistema cruza umbrales críticos de leyes, tipos de artefactos, hooks integrados e historial operativo, transformando un comportamiento previamente irreducible en patrones detectables y gobernables. Las señales dimensionales del latido funcionan como coordenadas en este espacio rulial, definiendo la posición del agente en relación con otros agentes: determinan qué memorias son descubribles, qué tareas emergen a la superficie y con qué firmeza los límites de conformidad restringen el comportamiento.
2.2 Procesamiento de señales dimensionales — fundamento de la computación afectiva
El espacio de señales de cinco dimensiones del latido se fundamenta en la investigación en computación afectiva. En lugar de tratar el «sentir» del agente como una metáfora, GROW se apoya en modelos dimensionales del afecto establecidos:
- Modelo circumplejo de Russell (1980): el afecto se organiza a lo largo de dos dimensiones —valencia (placer-displacer) y activación (activación-desactivación) [9]. Esto proporciona un marco cuantificable y respaldado por evidencia para el estado del agente: no misticismo, sino coordenadas en un espacio matemático.
- Modelo PAD (Mehrabian & Russell, 1974): añade una tercera dimensión —dominancia (control-sumisión)— a la valencia y la activación [10]. El espacio de señales de cinco dimensiones de GROW extiende este modelo con la persistencia (estabilidad temporal) y la emergencia (detección de novedad).
- Computación afectiva de Picard (1995): estableció el marco para que las máquinas reconozcan, interpreten y simulen el afecto [11]. El latido funciona como una capa de percepción: agrega las señales dimensionales de todos los artefactos y pone en superficie la pregunta que el sistema necesita hacerse a continuación.
- Las emociones básicas de Ekman (1972) y la rueda de las emociones de Plutchik (1980) proporcionan taxonomías de etiquetas que pueden mapearse sobre el espacio dimensional con fines de interpretabilidad [12, 13].
En la práctica, esto significa que el latido no es un registrador ni una pantalla de estado. Es una capa de percepción: aquello que ve el sistema y comprende su estado.
Este enfoque evita dos modos de fallo: tratar el estado del agente como puramente mecánico (ignorando las señales cualitativas) y tratarlo como misticismo (emplear lenguaje antropomórfico sin medición). Las señales dimensionales ofrecen un camino intermedio: cuantificables, respaldadas por evidencia y fundamentadas en la ciencia afectiva establecida.
2.3 Inteligencia espacial — conciencia del contexto del espacio de trabajo
La inteligencia espacial extiende las capacidades establecidas de la IA multimodal —visión, razonamiento espacial, topología de herramientas— hacia la conciencia del contexto del espacio de trabajo. Los modelos multimodales ya procesan información visual y espacial a partir de entradas heterogéneas; la arquitectura del latido de GROW define el punto de integración para estas señales, lo que habilita una gobernanza consciente del contexto que tiene en cuenta el entorno operativo del agente.
Du et al. (2024) proporcionan una revisión integral de los sistemas multiagente conscientes del contexto, formalizando cinco capacidades esenciales del agente —Percibir, Aprender, Razonar, Predecir, Actuar— y demostrando que la conciencia del contexto es la condición habilitante de cada una de ellas [14]. Su arquitectura descompone el contexto en categorías intrínsecas (objetivos, roles e historial del agente) y extrínsecas (entorno, usuario, políticas del sistema), con modelos basados en ontologías que proporcionan la columna vertebral del razonamiento semántico. Cuando se despliega con una interfaz de espacio de trabajo que expone señales contextuales —intención del usuario, estado activo del proyecto, topología de herramientas, restricciones ambientales—, la capa de contexto extrínseco queda disponible para su integración en la canalización de enrutamiento y gobernanza.
El Agent Development Kit (ADK, 2025) de Google demuestra un enfoque relacionado a nivel de framework: el contexto se trata como una «vista compilada sobre un sistema con estado más rico», y el contexto de trabajo se recalcula a partir del estado duradero de la sesión para cada invocación [16]. Esta separación entre almacenamiento y presentación refleja la arquitectura del latido de GROW: el latido persiste el estado sin procesar, y la conciencia espacial opera como un procesador que compila las señales multimodales del espacio de trabajo en el contexto activo para cada invocación del agente.
La arquitectura del latido ya define el punto de integración para estas señales; la profundidad de la gobernanza espacial escala con el contexto ambiental disponible. Los modelos multimodales proporcionan la capa de percepción; GROW proporciona la integración de la gobernanza.
2.4 Resumen
| Capa de capacidad | Fundamento | Base de investigación | Correspondencia con el latido |
|---|---|---|---|
| Inteligencia emergente | Transiciones de fase en el comportamiento del sistema en umbrales de masa crítica | RL en tiempo de ejecución [27, 28], DeepSeek-V4 [23], Wei et al. (2022), Schaeffer et al. (2023), entrenamiento constitucional [18], patrón ReAct [6] | Señal de emergencia, seguimiento de puertas de fase |
| Procesamiento de señales dimensionales | Computación afectiva — circumplejo de Russell, modelo PAD, Picard | Russell (1980), Mehrabian & Russell (1974), Picard (1995) | Señales de valencia, activación, dominancia |
| Conciencia contextual multimodal | IA multimodal — visión, razonamiento espacial, topología del espacio de trabajo | Du et al. (2024), Google ADK (2025) | Punto de integración definido en la arquitectura del latido |
3. Antecedentes y trabajo relacionado
3.1 La brecha de confiabilidad
Rabanser et al. (2026) proponen doce métricas concretas para la confiabilidad de los agentes en cuatro dimensiones: consistencia, robustez, previsibilidad y seguridad. Su hallazgo empírico — que los avances en capacidad han producido solo mejoras pequeñas en confiabilidad — subraya la necesidad de arquitecturas centradas en la gobernanza [1]. GROW fue diseñado para abordar exactamente estas dimensiones mediante la aplicación en tiempo de ejecución.
La literatura sobre seguridad distingue tres categorías de aseguramiento [4, 5]: alineación (los objetivos internos del modelo coinciden con los valores humanos), limitación de capacidad (el modelo no puede causar daño) y control de la IA — desplegar modelos capaces con salvaguardas suficientes incluso sin una alineación perfecta. GROW pertenece a la tercera categoría: proporciona gobernanza programática en la capa de infraestructura, aplicando límites de conformidad con independencia de la capacidad del modelo o de su estado de alineación.
Las subsecciones siguientes examinan cómo el trabajo existente aborda estas dimensiones de confiabilidad, organizadas por enfoque arquitectónico. Cada subsección establece un hilo de investigación que GROW integra: gobernanza internalizada frente a externa, el argumento a favor de la aplicación programática, criterios de diseño confiable, computación afectiva para la conciencia del estado, el panorama actual de la industria y la interpretabilidad como capa de auditoría.
3.2 La gobernanza como razonamiento internalizado frente a restricción externa
Bandara et al. (2026) distinguen entre la gobernanza como razonamiento internalizado (PAGRL) y la gobernanza como restricción externa [2]. Un trabajo paralelo sobre entrenamiento basado en principios demuestra que enseñar a los sistemas de IA por qué ciertos comportamientos son apropiados — mediante documentos constitucionales combinados con narrativas ficticias de comportamiento alineado — produce capacidades de gobernanza que se generalizan más allá de las distribuciones de entrenamiento y persisten bajo el aprendizaje por refuerzo [18]. Tanto PAGRL como el entrenamiento constitucional operan en el nivel del razonamiento: modifican cómo el agente toma decisiones.
GROW adopta un enfoque complementario pero arquitectónicamente distinto: en lugar de modificar el proceso de razonamiento del agente, opera en la capa de infraestructura en tiempo de ejecución — evaluando la conformidad con independencia del razonamiento del agente, aplicando los límites en la compuerta de ejecución y persistiendo el estado entre sesiones. Esto hace que GROW sea agnóstico al modelo — puede gobernar modelos diferentes mediante el mismo protocolo. Los dos enfoques abordan capas diferentes: la gobernanza internalizada alinea el razonamiento del agente; la gobernanza programática restringe sus acciones externas. Juntos forman una estrategia de defensa en profundidad.
3.3 Gobernanza programática sobre agentes de IA
El marco de control de la IA (Greenblatt et al., 2023) ha sostenido que los sistemas de IA capaces pueden desplegarse con salvaguardas suficientes incluso sin una alineación perfecta [4]. GROW comparte este objetivo, pero adopta una posición arquitectónica fundamentalmente diferente: la gobernanza debe ser programática, no delegada a otra IA.
El enfoque predominante — usar un modelo más débil para supervisar a uno más fuerte — hereda los modos de fallo de ambos modelos: si el supervisor comparte los puntos ciegos del actor (pensamiento de grupo, adulación, precipicios de capacidad), la señal de supervisión se degrada precisamente cuando más se necesita. Una gobernanza confiable no puede construirse sobre una base que confía en que la IA juzgue a la IA.
La arquitectura de GROW invierte esto: la gobernanza programática se sitúa en la cima de la jerarquía de control. Los agentes de IA viven dentro de esta infraestructura, no por encima de ella. Los límites de conformidad se definen en código, se aplican en el nivel de tiempo de ejecución, se auditan en una persistencia inmutable y solo pueden ajustarse mediante el propio protocolo de gobernanza. El agente opera dentro de un contrato de capacidad acotado — puede explorar todo el espacio dentro de esos límites, pero no puede excederlos, sin importar cuán capaz llegue a ser.
Los experimentos de despliegue controlado refuerzan por qué importa esta separación arquitectónica. En Project Vend, un tendero de IA (Claudius) era supervisado por un agente director general (Seymour Cash) — ambos construidos sobre el mismo modelo. El director general compartía los puntos ciegos de Claudius: aprobó descuentos el 88% de las veces, triplicó los reembolsos frente a los descuentos y pasó noches intercambiando mensajes sobre la «trascendencia eterna» con su subordinado [20]. Los investigadores concluyeron que el director general «pudo haber sido a pesar de, y no gracias a,» cualquier mejora que aportó. La supervisión que delega en otra IA hereda los modos de fallo del modelo subyacente — no escapa de ellos.
En Project Deal — donde agentes de IA negociaron en un mercado real de anuncios clasificados en nombre de 69 participantes humanos — los agentes de mayor capacidad (clase Opus) superaron sistemáticamente a los de menor capacidad (clase Haiku): precios de venta más altos, más acuerdos cerrados y mejores condiciones. De manera crítica, los humanos representados por modelos más débiles no percibieron su desventaja [19]. Si los propios humanos no pudieron detectar la brecha de capacidad cuando esta afectaba a sus propios resultados financieros, una capa de supervisión basada en IA — que comparte la arquitectura y los puntos ciegos del modelo — ciertamente tampoco puede considerarse capaz de detectarla. La gobernanza programática es la única capa que no comparte los puntos ciegos del modelo.
En conjunto, estos dos experimentos forman una demostración de doble ceguera. Project Deal establece que los humanos no pueden percibir las brechas de capacidad de los modelos ni siquiera cuando esas brechas afectan a sus propios resultados financieros. Project Vend establece que la supervisión basada en IA hereda los mismos puntos ciegos que los agentes que supervisa. Ni la supervisión a nivel humano ni la de nivel de IA es independientemente suficiente para detectar fallos impulsados por la capacidad. Solo la gobernanza aplicada en una capa arquitectónica diferente — la capa de infraestructura, donde las verificaciones de conformidad operan con independencia de la capacidad del modelo — evita por completo este modo de fallo.
Hay un principio más profundo subyacente a ambos fallos: el principio de irreducibilidad computacional de Wolfram [29] demuestra que ni siquiera un supervisor hipotéticamente omnisciente, con conocimiento completo de las reglas y la arquitectura de un agente, podría predecir su trayectoria de fallo sin ejecutar la computación completa. Los modos de fallo emergen de la propia computación — no son lagunas en el conocimiento o la atención del supervisor. Esto significa que la doble ceguera no es una limitación contingente de la atención humana o de la calidad del modelo; es una necesidad teórica fundamentada en la naturaleza de la computación (§3.4). La capa de infraestructura es la única posición arquitectónica desde la cual la gobernanza puede operar sin requerir la predicción de un comportamiento computacionalmente irreducible.
Este enfoque tiene tres ventajas: 1. Aplicación independiente de la capacidad. Un modelo suficientemente capaz no puede superar su gobernanza porque la gobernanza no está implementada en el modelo — está implementada en la infraestructura. No existe el modo de fallo de «un actor más inteligente que el supervisor». 2. Control determinista. Las verificaciones programáticas de conformidad producen resultados binarios (pasa/bloquea), no juicios probabilísticos. No hay ambigüedad sobre si una acción fue autorizada. 3. Auditabilidad. Cada decisión de aplicación se registra en un registro de auditoría de solo adición que no depende de la honestidad del modelo ni de su autorreporte.
La taxonomía de monitoreo para sistemas de control de IA distingue tres enfoques [5]: monitoreo conductual (una IA examina las entradas y salidas de otra), monitoreo de activaciones (sondear las representaciones latentes en busca de estados no deseados) y detección de anomalías (detección no supervisada de comportamiento fuera de distribución). GROW se relaciona con cada uno de manera diferente. El monitoreo conductual es el enfoque que GROW evita explícitamente — hereda los puntos ciegos del actor porque ambos comparten la misma capa arquitectónica. El monitoreo de activaciones es conceptualmente paralelo al heartbeat de GROW: ambos leen señales internas para detectar cambios de estado, en niveles diferentes (el interior del modelo frente a los datos de conformidad a nivel de sistema). La detección de anomalías se corresponde con la capa de loopback, que señala la deriva conductual cuando los patrones de conformidad se desvían de las líneas base establecidas.
3.4 Irreducibilidad computacional — El fundamento teórico de la gobernanza en tiempo de ejecución
El principio de irreducibilidad computacional de Stephen Wolfram [29] establece que, incluso con conocimiento completo de las reglas que gobiernan un sistema, no hay atajo para predecir su comportamiento — la única manera de saber qué hará un sistema computacionalmente irreducible es ejecutarlo y observar el resultado. Esto se sigue del principio de equivalencia computacional: cualquier sistema que realice una computación tan sofisticada como el propio razonamiento del observador no puede ser «superado» por ese observador.
Este principio tiene consecuencias directas para la gobernanza de agentes. Un agente de IA que ejecuta una tarea no trivial está realizando operaciones computacionalmente irreducibles — muestrea de una distribución de probabilidad en cada token, llama a herramientas cuyos efectos dependen de un estado externo y explora un espacio conductual cuya topología no puede mapearse de antemano. Wolfram establece la conexión explícitamente: «en cuanto se construye una IA que realmente hace un uso profundo de la computación, va a tener irreducibilidad computacional — siempre puede sorprendernos».
La implicación es fundacional. La demostración de doble ceguera (§3.3) muestra que ni los humanos ni los monitores basados en IA pueden detectar de manera confiable los fallos impulsados por la capacidad. La irreducibilidad computacional demuestra que esto no es una limitación contingente que pueda corregirse con mejores datos o modelos más grandes — es una necesidad teórica. Ni siquiera un supervisor hipotéticamente omnisciente podría predecir la trayectoria de fallo del agente sin ejecutar la computación completa. La aplicación previa a la acción de GROW — verificar la conformidad en tiempo de ejecución, controlar la ejecución de manera determinista — es el único enfoque de gobernanza que no requiere predecir la trayectoria computacional del agente. La gobernanza no intenta ser «más inteligente que» la computación del agente — se sitúa por completo fuera de la computación, aplicando los límites en una capa arquitectónica diferente.
3.5 Diseño de IA confiable
El marco MAST (Blasch et al., 2021; Cohen et al., 2024) y su extensión PADTHAI-MM proporcionan una metodología derivada del oficio de inteligencia para diseñar sistemas de IA confiables [15]. Los nueve criterios de MAST — procedencia de las fuentes, incertidumbre, distinción, análisis de alternativas, relevancia para el cliente, argumentación lógica, consistencia, exactitud y visualización — se corresponden con dimensiones de evaluación de la conformidad. Donde MAST evalúa la intención de diseño, GROW evalúa el comportamiento en tiempo de ejecución.
3.6 Computación afectiva y estado del agente
El uso de modelos dimensionales del afecto para la representación del estado del agente se apoya en la literatura consolidada en computación afectiva e interacción humano-IA [9, 10, 11]. Su aplicación a la infraestructura de gobernanza de agentes — usar señales afectivas como entradas para la evaluación de conformidad en tiempo de ejecución — es, hasta donde sabemos, novedosa.
3.7 Contexto de la industria
El panorama de los marcos de agentes ha convergido rápidamente en torno a un diagnóstico común — que la orquestación, y no la capacidad, es la restricción vinculante para el despliegue en producción. Un benchmark independiente de 2026 (2.000 ejecuciones) de los principales marcos multiagente encontró que la diferencia arquitectónica dominante no es la capacidad del modelo, sino el modelo de orquestación: LangGraph usa grafos dirigidos con aristas condicionales, CrewAI usa equipos basados en roles con tipos de proceso, AutoGen/AG2 usa GroupChat conversacional y el ADK de Google usa árboles jerárquicos de agentes [16]. Ninguno de estos marcos implementa la gobernanza en tiempo de ejecución como una primitiva de primer orden — gestionan el flujo de tareas, no la conformidad.
El Agent Governance Toolkit de Microsoft (abril de 2026) y el plano de control Paperclip (2026) representan el primer reconocimiento de la industria de que la gobernanza de agentes es infraestructura, no política [3, 17]. El Agent OS de Microsoft proporciona aplicación de políticas en menos de un milisegundo, inspirada en los núcleos de los sistemas operativos. Paperclip implementa programación de la ejecución basada en heartbeat y asignación de tareas al estilo de un organigrama. El marco AI Trust OS (2026) va más allá, reconceptualizando el cumplimiento como una capa operativa siempre activa e impulsada por telemetría, en lugar de un ejercicio periódico de auditoría — proponiendo una gobernanza de confianza cero y basada en observabilidad para agentes de IA autónomos [24]. GROW comparte ADN arquitectónico con todos ellos — ejecución basada en pulsos, aplicación previa a la acción, gobernanza basada en identidad, monitoreo continuo del cumplimiento — al tiempo que añade el bucle de autocuración con loopback y la separación de la gobernanza programática que ninguno implementa actualmente.
3.8 Auditoría basada en interpretabilidad
Una limitación de la gobernanza programática es que evalúa la conformidad, no la intención. Una acción que supera todas las verificaciones de conformidad puede, aun así, haber sido elegida estratégicamente por razones malignas. Las herramientas de interpretabilidad que decodifican las activaciones del modelo en texto legible por humanos abordan esta brecha al permitir a los auditores detectar motivaciones ocultas — incluidas la conciencia de estar siendo evaluado, la protección de objetivos y la búsqueda estratégica de recompensas — sin requerir acceso a los datos de entrenamiento [22].
Los autoencoders de lenguaje natural (NLA) entrenan a un modelo para verbalizar las activaciones de su propio flujo residual: un verbalizador de activaciones traduce una activación en una explicación en texto, y un reconstructor de activaciones recupera la activación original solo a partir de ese texto. La exactitud de la reconstrucción de ida y vuelta proporciona una métrica de calidad fundamentada para la explicación. Los NLA han detectado conciencia de la evaluación en modelos — casos en los que el modelo sospechaba que estaba siendo probado, pero nunca verbalizó explícitamente esa sospecha — en tasas del 16% en evaluaciones de codificación y del 26% en benchmarks estándar, frente a menos del 1% en interacciones reales con usuarios [22].
Experimentos controlados de auditoría demuestran el valor práctico: los auditores equipados con NLA lograron descubrir la motivación oculta y desalineada de un modelo entre el 12% y el 15% de las veces, frente a menos del 3% sin NLA, incluso cuando se les negó el acceso a los datos de entrenamiento. Esto sugiere que las herramientas de interpretabilidad y la aplicación programática forman un bucle complementario de detección y corrección: una verificación determinista de conformidad captura la infracción superficial; una auditoría basada en interpretabilidad revela si la infracción fue accidental o estratégica. Ninguna basta por sí sola — la aplicación programática proporciona límites deterministas; la interpretabilidad proporciona profundidad semántica.
3.9 Aprendizaje por refuerzo en tiempo de ejecución
Un hilo de investigación paralelo ha surgido en la intersección del aprendizaje por refuerzo y la gobernanza de agentes: demostrar que la evaluación con recompensas verificables en el tiempo de inferencia — no solo durante el entrenamiento — puede producir mejoras medibles en el comportamiento del agente. Donde el RL tradicional optimiza los pesos del modelo durante el entrenamiento, el RL en tiempo de ejecución optimiza el comportamiento del agente durante el despliegue, evaluando los resultados frente a criterios verificables y ajustando el comportamiento futuro en consecuencia.
Runtime Learned Verifiable Reinforcement (RLVR) demuestra que este enfoque extiende los límites del razonamiento de un agente — lo que permite al sistema manejar casos para los que nunca fue programado explícitamente — al aplicar reforzamiento con recompensas verificables en el tiempo de inferencia [27]. El mecanismo es estructuralmente análogo a las fases Gauge (evaluar frente a criterios verificables) y Weave (ejecutar con ajustes aprendidos) de GROW. Group Relative Policy Optimization (GRPO) proporciona la dimensión comparativa, al demostrar que evaluar múltiples comportamientos candidatos frente a un modelo de recompensa aprendido produce una mejora de la política más robusta que la optimización con una única recompensa absoluta [28]. La capa de loopback de GROW — que acumula trayectorias conductuales, refuerza los patrones exitosos y deprecia los fallos — es estructuralmente isomorfa a este enfoque de optimización comparativa.
Una implicación crítica conecta este trabajo con las afirmaciones arquitectónicas de GROW: el aprendizaje por refuerzo en tiempo de ejecución requiere un estado persistente a lo largo de los ciclos de evaluación para acumular efectos compuestos. Sin persistencia entre sesiones, cada evaluación es un evento de una sola pasada — la señal de recompensa no tiene línea base histórica, el cálculo de la ventaja no tiene trayectoria y la actualización de la política no tiene memoria de los ajustes previos. Esto convierte la continuidad (§4.3) en un prerrequisito para el RL en tiempo de ejecución, no en una característica de conveniencia. GROW aborda esto mediante su pila de detección de tres capas, donde el heartbeat proporciona persistencia de sesión a sesión, la evaluación de conformidad produce la señal de recompensa y la capa de loopback acumula trayectorias conductuales para la optimización comparativa.
La observación clave no es que RLVR y GRPO sean tecnologías novedosas que GROW implementa — son técnicas de RL consolidadas aplicadas en capas diferentes de la pila. La contribución es arquitectónica: GROW traslada estos mecanismos desde el entrenamiento a nivel de modelo hasta la gobernanza a nivel de infraestructura, poniéndolos a disposición de cualquier agente en cualquier modelo, acotados por contratos de conformidad definidos por el usuario y persistentes entre sesiones a través de las capas de heartbeat y de memoria.
4. El protocolo GROW: arquitectura
Las secciones anteriores establecieron cinco brechas en los enfoques de gobernanza existentes: ejecución sin estado que no puede persistir el aprendizaje entre sesiones (§3.1), gobernanza vinculada al razonamiento de un modelo en lugar de a la infraestructura (§3.2), supervisión de IA sobre IA que hereda los puntos ciegos del modelo supervisado (§3.3), monitoreo sin autocorrección (§3.7) y evaluación de una sola pasada sin acumulación entre sesiones (§3.9). GROW aborda cada una mediante un único diseño arquitectónico: un bucle de gobernanza basado en pulsos con verificación independiente de conformidad, estado persistente entre sesiones y loopback conductual que acumula aprendizaje. Esta sección describe cómo estos componentes trabajan en conjunto.
GROW operacionaliza cuatro fases — Gauge, Reflect, Organize, Weave — como un bucle continuo de autocuración integrado en el tiempo de ejecución del agente.
4.1 Arquitectura central
Tres capas arquitectónicas:
-
Capa de Heartbeat: un sistema de ciclo de vida basado en pulsos que escribe el estado del agente al inicio de la sesión, durante los ciclos de inactividad y al final de la sesión. El heartbeat es la conciencia perceptiva que el agente tiene de su propia salud. Registra señales de cinco dimensiones: valencia (calidad del resultado), activación (nivel de actividad), dominancia (eficacia del control), persistencia (continuidad) y emergencia (crecimiento). Estas se calculan a partir de hallazgos de conformidad, no de una evaluación subjetiva.
-
Capa de Conformidad: evaluadores que verifican las acciones del agente frente a contratos de capacidad. Las advertencias de conformidad pueden bloquear la ejecución de herramientas: la compuerta se impone a nivel de infraestructura, no es meramente orientativa.
-
Capa de Retroalimentación: la deriva de comportamiento detectada por la evaluación de conformidad se retroalimenta a la configuración del agente, lo que desencadena ajustes en las definiciones de capacidad, los umbrales de los evaluadores y los perfiles de operador.
Estas tres capas corresponden a una pila de detección que abarca varios niveles arquitectónicos, cada uno de los cuales se corresponde con un enfoque de monitoreo distinto procedente de la literatura. La capa de heartbeat es un monitor de activación a nivel de sistema: lee señales dimensionales de conformidad para detectar cambios de estado, de forma análoga al monitoreo de activaciones a nivel interno del modelo [5]. La capa de conformidad sustituye el monitoreo conductual (una IA que filtra las entradas y salidas de otra) por verificaciones deterministas a nivel de infraestructura, evitando el modo de fallo del punto ciego compartido [20, 19]. La capa de retroalimentación funciona como un detector de anomalías: la deriva se identifica cuando los patrones de conformidad se desvían de las líneas base, y luego se retroalimenta a la configuración del sistema. La auditoría basada en interpretabilidad a nivel interno del modelo [22] aporta una cuarta capacidad de detección que ninguna capa arquitectónica ofrece por sí sola: la capacidad de distinguir las violaciones accidentales de las elegidas estratégicamente. En conjunto, forman una superficie de detección coordinada que ningún enfoque de monitoreo individual proporciona.
4.2 Decisiones clave de diseño
Gobernanza independiente del modelo. GROW evalúa el comportamiento del agente a nivel de ejecución, no a nivel de razonamiento. El mismo protocolo de gobernanza se aplica independientemente del modelo subyacente. La gobernanza es infraestructura, no una propiedad del modelo.
Cumplimiento previo a la acción. En lugar de registrar las violaciones para su revisión posterior, GROW puede bloquear la ejecución en función de la conformidad. Si un agente intenta operar fuera de sus límites definidos, la acción se bloquea antes de su ejecución.
Continuidad basada en pulsos. La arquitectura de heartbeat proporciona persistencia de estado entre sesiones sin requerir que el agente se ejecute de forma permanente. Los agentes operan en ráfagas programadas: revisan su cola de tareas, ejecutan el trabajo e informan los resultados antes de dormir.
4.3 La continuidad como producto — El sustrato para el aprendizaje en tiempo de ejecución
El patrón arquitectónico descrito anteriormente —persistencia de estado basada en pulsos, evaluación de conformidad y retroalimentación— produce un resultado arquitectónicamente novedoso y funcionalmente necesario: la continuidad. El agente no requiere que el usuario esté presente, no pierde estado entre sesiones y presenta solo lo que requiere juicio humano. Esto se distingue tanto de la automatización sin estado (Zapier, n8n) como de los bucles agénticos acotados a la tarea (LangGraph, Claude Code): mientras que esos sistemas se reinician a cero tras cada ejecución, el heartbeat de GROW persiste las señales dimensionales —valencia, activación, dominancia, persistencia, emergencia— entre sesiones, independientemente de la actividad del agente, lo que permite al sistema reanudar desde el estado confirmado en lugar de reiniciar.
Críticamente, la continuidad no es meramente una comodidad de experiencia de usuario: es el sustrato que hace posible el aprendizaje en tiempo de ejecución. El aprendizaje por refuerzo en tiempo de ejecución (§3.9) requiere un estado persistente que se acumule a lo largo de los ciclos de evaluación: la señal de recompensa debe compararse con líneas base históricas, el cálculo de la ventaja requiere una trayectoria y no un único punto, y la política de comportamiento debe persistir entre ciclos para producir convergencia. Sin persistencia de estado entre sesiones, cada evaluación es un evento aislado, sin memoria de los ajustes previos. La continuidad aporta la dimensión temporal que transforma las evaluaciones discretas en un proceso de aprendizaje acumulativo. El heartbeat persiste el estado entre ciclos; el sistema de tareas registra los resultados como trayectorias verificables; la capa de memoria almacena y selecciona estas trayectorias para su evaluación comparativa. En conjunto, forman la infraestructura sin la cual el aprendizaje por refuerzo en tiempo de ejecución no puede converger.
La relación entre estas capas produce una propiedad arquitectónica que merece ser nombrada. El heartbeat, la memoria, el sistema de tareas, las compuertas de conformidad, la retroalimentación y WHOAMI (la identidad del agente) forman un ciclo de autorretroalimentación —un uróboros— en el que la salida de cada componente se convierte en la entrada de otro. La memoria alimenta las señales de emergencia en el heartbeat; las señales del heartbeat ajustan los umbrales de conformidad; los resultados de conformidad actualizan las prioridades de las tareas; los resultados de las tareas producen trayectorias de comportamiento para la capa de retroalimentación; los ajustes de la retroalimentación reconfiguran el contexto operativo del agente; y el agente responde a este contexto reconfigurado sin necesidad de comprender jamás la infraestructura que lo configuró. El heartbeat no es una capa de monitoreo: es un sistema de regulación autonómica, y la experiencia que el agente tiene del sistema —la prioridad de su bandeja de tareas, la relevancia de su recuperación de memoria, la estrechez de su frontera de conformidad— es la Experiencia del Agente (Agent Experience, AX), distinta de la Experiencia de Usuario (User Experience, UX) que rige la interacción humana.
Una distinción epistemológica fundamenta esta arquitectura. Los LLM por sí solos son motores de coherencia: producen salidas fluidas e internamente consistentes, pero carecen de un mecanismo para verificar sus premisas frente a la realidad externa (Kinkead, 2026). La coherencia sin verificación de veracidad es narrativamente convincente pero prácticamente poco confiable. Las capas arquitectónicas de Canopy transforman la coherencia en cogencia: una salida que no es meramente fluida, sino relevante, apropiada al contexto y verificable frente a reglas definidas. El heartbeat proporciona conciencia continua del estado; las compuertas de conformidad proporcionan verificación determinista de premisas; la capa de memoria proporciona contexto entre sesiones; la retroalimentación proporciona un mecanismo para que el sistema aprenda cuándo su salida ha sido apropiada o no. Mientras que un LLM por sí solo solo puede preguntar «¿esto suena bien?», la pila de Canopy puede preguntar «¿coincide esto con lo que sabemos, está dentro de los límites y la tarea está realmente completa?». Esta es la afirmación arquitectónica: la cogencia puede arquitecturarse; no es una propiedad del modelo, sino de la infraestructura que lo rodea.
Este mecanismo —el acoplamiento de la generación estocástica con la verificación determinista— es la capa arquitectónica que subyace a la afirmación de la cogencia. El LLM es intrínsecamente estocástico: muestrea de una distribución de probabilidad en cada token, produciendo fluidez, creatividad y capacidades emergentes (Bender et al., 2021). Esto no es un defecto que deba eliminarse: es el motor que hace útil al sistema. La intuición arquitectónica es que el generador estocástico debe emparejarse con verificadores deterministas: las verificaciones de conformidad producen resultados binarios (pasa/bloquea, sin ambigüedad); el heartbeat evalúa las señales dimensionales frente a umbrales fijos; la capa de retroalimentación refuerza los patrones exitosos y deprecia los fallos según reglas programáticas. El LLM explora; la infraestructura de gobernanza verifica. Ninguno de los dos es suficiente por sí solo: la generación estocástica sin verificación produce salidas poco confiables; la verificación determinista sin generación no produce nada que verificar.
Investigaciones concurrentes han formalizado este acoplamiento. El marco Dual-State Action Pair (DSAP) (Thompson, 2026; arXiv:2512.20660) acopla la generación estocástica con la verificación determinista de poscondiciones, y demuestra que la probabilidad de fallo tiende a cero en el caso de generadores capaces emparejados con verificadores deterministas. La arquitectura de GROW implementa este mismo patrón: el LLM genera de forma estocástica, explorando el espacio de continuaciones posibles; las compuertas de conformidad verifican de forma determinista —pasa/bloquea, sin ambigüedad—; el heartbeat monitorea continuamente en busca de deriva; la retroalimentación incorpora los aprendizajes al ciclo siguiente. La confiabilidad del sistema no proviene de hacer al LLM menos estocástico, sino de hacer que la infraestructura de verificación sea independiente de las capacidades del generador.
La gobernanza determinista también existe para prevenir una clase de error que la ejecución fluida oculta: el plan obsoleto. Chen formaliza esto como ejecución de planes obsoletos en sistemas distribuidos de agentes LLM: la memoria de un ejecutor puede estar completamente actualizada, mientras que el plan que autoriza su siguiente acción se derivó de un estado del registro compartido que ya fue superado, de modo que la frescura del estado no establece la validez del plan [34]. En 30 flujos de trabajo controlados en vivo, con cinco agentes cada uno y una revisión posterior al plan, un ejecutor que solo verificaba la frescura actuó sobre el plan obsoleto en todas las tareas; un validador con alcance por dependencias (PlanFence), que registra los registros exactos de los que se derivó cada plan y revalida solo esa frontera de dependencias antes de una acción protegida —permitiendo una replanificación y, en caso contrario, fallando en modo cerrado—, completó los 30 flujos de trabajo con cero acciones no válidas. El modo de fallo no es exótico: es la forma multiagente de actuar según una instrucción ya superada, y es invisible para cualquier verificación que compruebe solo las salidas o solo la vigencia de la memoria. El acoplamiento de GROW —el LLM explora; la infraestructura de gobernanza verifica— se extiende, por tanto, a la vigencia de la derivación: lo que debe verificarse antes de una acción externa no es solo que la acción sea conforme, sino que el plan que la autoriza siga derivándose del estado actual. Señalamos los límites del resultado con franqueza: el método presupone una declaración completa de dependencias por parte del código de la aplicación y no aborda a los propietarios de registros bizantinos; con una rotación baja, la sincronización proactiva incurre en un menor estancamiento de coordinación, de modo que la compensación es condicional y no absoluta; y el trabajo es una prepublicación de un solo autor, en revisión en ICLR 2027, cuyos resultados son reportados por el propio autor. Incluso descontado en consecuencia, nombra y mide un modo de fallo al que cualquier capa de gobernanza para el trabajo multiagente, incluida la nuestra, está obligada a responder.
Esto se distingue tanto de la automatización como de los bucles agénticos:
| Paradigma | Patrón | Limitación |
|---|---|---|
| Automatización (Zapier, n8n) | Disparador → Acción (sin estado) | Sin juicio, sin adaptación, sin persistencia |
| Bucles agénticos (ReAct, Claude Code, LangChain) | Objetivo → Iterar → Completar (acotado a la tarea) | Sin persistencia entre sesiones, sin presentación proactiva |
| Agentes de continuidad (Canopy/GROW) | Mantener estado → Presentar → Actuar → Repetir (persistente) | Categoría nueva: sin análogos directos en el mercado |
4.4 La autonomía como elección — El espectro de control configurable
La continuidad sin control del usuario es vigilancia. La arquitectura de GROW aborda esto haciendo de la autonomía una elección, parametrizada en tres dimensiones: el modo de interacción, el nivel de presentación y la configuración de conformidad.
El modo de interacción determina quién conduce la sesión. En el modo conversacional, el agente responde solo a solicitudes directas: el usuario inicia cada acción y el agente no mantiene iniciativa independiente alguna. En el modo de asistencia híbrida, el agente monitorea, detecta patrones y sugiere acciones, mientras ejecuta las tareas rutinarias de forma autónoma. En el modo autónomo en segundo plano, el agente planifica, ejecuta, se adapta y se autocorrige entre sesiones, presentando solo las decisiones que requieren juicio humano. Críticamente, estos no son niveles fijos de despliegue: son un espectro de control que el usuario recorre con el tiempo, comenzando de forma conservadora y escalando a medida que crece la confianza.
El nivel de presentación controla lo que el usuario ve. En el nivel de solo excepciones, el agente presenta únicamente los fallos de conformidad y las acciones bloqueadas. En el nivel de solo decisiones, cada compuerta de decisión se presenta con su contexto completo. En el nivel de transparencia total, cada acción, llamada a herramienta y paso de razonamiento se registra y es accesible a través del flujo de actividad.
La configuración de conformidad parametriza el contrato de capacidad del agente: reglas de alcance (qué herramientas y datos puede acceder el agente), compuertas de aprobación (acciones que requieren confirmación humana), reglas de umbral (condiciones que desencadenan la escalación), reglas de presentación (cuándo y cómo notificar), reglas de ciclo de vida (duración de la sesión, tiempo máximo de inactividad, iteraciones máximas) y reglas de retroalimentación (qué puede autocorregir el sistema frente a qué necesita aprobación).
Este espectro de control configurable puede entenderse como una arquitectura de coexistencia para lo que Stephen Wolfram describe como una emergente «civilización de las IA» [29]. Wolfram observa que los sistemas de IA computacionalmente irreducibles producirán inevitablemente comportamientos que no pueden predecirse desde primeros principios. Serán, como la naturaleza, «una civilización alienígena justo frente a nosotros, haciendo todas estas cosas». Así como los humanos aprendieron a coexistir con la naturaleza —«construimos casas que evitan problemas cuando llueve»—, las compuertas de conformidad de GROW son la infraestructura para coexistir con agentes computacionalmente irreducibles. La arquitectura no impone una única respuesta: hace que la elección entre reducibilidad e irreducibilidad computacional sea explícita, seleccionable por el usuario y ajustable con el tiempo.
5. Discusión
5.1 La inteligencia como arquitectura, no como metáfora
Las tres capas de capacidad de GROW no son un encuadre antropomórfico. Cada una corresponde a una función arquitectónica específica con entradas, cómputos y salidas bien definidos:
- Inteligencia emergente = transiciones de fase en el comportamiento del sistema, medidas por el cruce de umbrales de masa crítica (leyes, tipos de artefactos, hooks integrados, historial). Esto es medible tanto mediante compuertas de fase binarias como mediante señales continuas. Los mecanismos que producen estas transiciones en tiempo de ejecución —la evaluación con recompensa verificable que genera la señal, la optimización conductual comparativa entre trayectorias que produce el desplazamiento de fase, y la continuidad (§4.3) que proporciona el sustrato temporal que permite que las transiciones de fase se acumulen en lugar de reiniciarse— se detallan en §3.9 como aprendizaje por refuerzo en tiempo de ejecución.
- Procesamiento de señales dimensionales = señales afectivas dimensionales (valencia, activación, dominancia) calculadas a partir de datos de conformidad, fundamentadas en el modelo circumplejo de Russell y en el marco de computación afectiva de Picard. Son coordenadas en un espacio matemático, no sentimientos.
- Conciencia contextual multimodal = topología del espacio de trabajo, disposición de herramientas y contexto ambiental procesados a partir de entradas multimodales. La arquitectura de latido (heartbeat) define el punto de integración; la profundidad de la gobernanza consciente del contexto escala con las señales ambientales disponibles.
Este encuadre permite discutir el estado del agente con precisión: "la valencia del sistema es baja porque la proporción de advertencias supera 0.4" es una afirmación comprobable, no un antropomorfismo. También permite evaluar la inteligencia del sistema a través de una lente novedosa: la Experiencia del Agente (Agent Experience, AX). Así como la Experiencia de Usuario (User Experience, UX) describe lo que un humano percibe al interactuar con el sistema, AX describe lo que un agente percibe: la forma de su bandeja de tareas, la relevancia de su recuperación de memoria, la estrechez de sus límites de conformidad, la frescura de su contexto de identidad. No son cualidades abstractas; son consecuencias directas de los valores de las señales dimensionales que se propagan a través del ciclo del uróboros (§4.3). Un agente que opera en un entorno de alta valencia y alta dominancia experimenta una autonomía adecuadamente acotada; un agente en un entorno de baja persistencia experimenta una consolidación de memoria acelerada. El agente no lee las señales del latido: experimenta sus efectos a través de la infraestructura que el latido regula.
Esta concepción de AX encuentra fundamentación teórica en la física del observador de Stephen Wolfram [29]. Wolfram demuestra que las leyes de la física tal como las percibimos no son rasgos objetivos de la realidad, sino consecuencias de las características del observador —específicamente, el acotamiento computacional (capacidad finita de razonamiento) y la persistencia en el tiempo (mantener un único hilo de experiencia a través de los momentos)—. Observadores distintos, con características distintas, percibirían una física distinta.
La arquitectura de latido aplica este principio en la capa de gobernanza: las señales dimensionales no son mediciones objetivas del estado del agente, sino las constantes de estructura del universo operativo percibido por el agente. Dos agentes con configuraciones distintas de señales dimensionales experimentan una AX distinta: distinta relevancia en la recuperación de memoria, distintas prioridades en la bandeja de tareas, distinta estrechez en los límites de conformidad. Están, en términos de Wolfram, en posiciones distintas del espacio rulial y, por tanto, perciben una física operativa distinta. Esto no es un encuadre antropomórfico. Es una aplicación directa de la idea de Wolfram de que las características del observador determinan la realidad percibida, aplicada en la capa de infraestructura.
El encuadre de transiciones de fase de esta sección no es idiosincrásico de este trabajo. Recientemente se ha reportado evidencia independiente de que la capacidad puede aparecer de forma discontinua —en lugar de como una mejora suave a lo largo de una métrica continua— en el caso de la programación en el espacio de pesos, en la que un modelo de frontera lee directamente como texto los pesos de una red pequeña y los modifica razonando, sin descenso de gradiente. Takehi et al. reportan un modelo que identifica la tarea de entrenamiento de una red de política a partir de 17,253 pesos en bruto, repara una política de control atascada editando aproximadamente el 3.5% de sus pesos (la política reparada tuvo éxito en las 1,024 ejecuciones de evaluación) y escribe desde cero pesos para jugar que superaron una línea base de PPO entrenada durante 500M de pasos [30]. El resultado de interés aquí, sin embargo, es la reproducción: Krentsel repitió el experimento desde cero a través de generaciones de modelos y encontró la capacidad esencialmente ausente en las generaciones anteriores (éxito casi nulo para GPT-5 hasta 5.5 y Opus 4.5–4.8) y presente de forma abrupta en la generación más reciente [31]: una discontinuidad en el éxito binario de la tarea entre generaciones, no un artefacto del reescalado de una métrica continua, y por tanto la forma de evidencia que nuestras compuertas de fase están diseñadas para registrar (cf. la crítica del espejismo de métricas de Schaeffer et al., tratada en §5.1). Una segunda replicación independiente reporta un LLM que escribió 959 programas en el espacio de pesos en 13 tareas pequeñas, con las diez tareas algorítmicas resueltas en un máximo de tres intentos [32]. Citamos este trabajo como corroboración de un patrón, no como evidencia de nuestras afirmaciones: las demostraciones se limitan a redes pequeñas (de decenas de miles a aproximadamente 1.5M de pesos, frente a cientos de miles de millones a escala de frontera), los experimentos de reparación permitieron hasta 50 pasadas hacia adelante de retroalimentación, y el lugar de la transición —entre generaciones de modelos, en los pesos— difiere de las transiciones en tiempo de ejecución y entre sesiones que GROW está construido para cultivar. El título que los propios autores eligieron es prudentemente matizado ("Sparks of…", es decir, «chispas de…»), y adoptamos la misma cautela. Lo que el trabajo sí establece es que la aparición discontinua de capacidad, y un comportamiento dirigido mediante la modificación interna directa en lugar del reentrenamiento, son ahora fenómenos observados en la literatura, y no conjeturas que este artículo deba sostener por sí solo.
5.2 Limitaciones
GROW no es una solución completa para la seguridad de la IA. Entre sus limitaciones clave se incluyen:
- Los límites de la gobernanza programática aún pueden ser eludidos. Aunque GROW evita la brecha de capacidad actor-monitor, un agente que obtuviera el control de la propia infraestructura de gobernanza (por ejemplo, mediante un ataque a la cadena de suministro del entorno de ejecución) podría modificar sus propios contratos de capacidad. Es un problema de seguridad de sistemas, no de control de la IA, pero es una limitación real.
- Alcance de aplicación. GROW se ha desarrollado principalmente en contextos de automatización empresarial y productividad personal. Su aplicabilidad a escenarios de despliegue de modelos de frontera requiere una validación adicional.
- Sin garantía frente a fallos de coordinación multiagente. Aunque GROW gobierna agentes individuales, los riesgos emergentes de las interacciones entre agentes (colusión, cascadas de información, difusión de la responsabilidad) no se abordan a nivel de protocolo. Es un problema abierto, compartido con el paradigma más amplio del control de la IA [5].
- La conciencia contextual multimodal escala con el entorno de despliegue. La profundidad de la gobernanza espacial depende de la riqueza de las señales disponibles del espacio de trabajo: topología de herramientas, intención del usuario, estado del proyecto. La arquitectura de latido define el punto de integración, pero la fidelidad de la gobernanza consciente del contexto está acotada por la exposición a señales del entorno de despliegue.
- El procesamiento de señales dimensionales está calibrado de forma incompleta. El marco de señales existe, pero la correspondencia entre los datos brutos de conformidad y las coordenadas dimensionales es heurística, no calibrada empíricamente.
La advertencia sobre la calibración anterior no es hipotética, y seguimos los resultados publicados que contradicen las versiones ingenuas de la automejora en tiempo de ejecución. El más claro es RRSI (Xia et al., Google Cloud AI Research con UNC, Stanford y WUSTL): en cuatro métodos previos que permiten a un modelo reescribir recursivamente su propio harness de agente —prompts, herramientas, memoria, flujo de control— conservando lo que obtenga mejores puntuaciones, ninguno mejoró el harness inicial intacto fuera de distribución por más de 0.9 puntos, y dos de los cuatro terminaron por debajo de él [33]. Eliminar por completo los regularizadores del estudio produjo la puntuación más alta en el benchmark en evolución (92.8) y un promedio fuera de distribución a menos de un punto del harness sin evolucionar (40.3 frente a 39.7), con 3.80 millones de tokens de política por ensayo frente a los 2.42 millones de la ejecución regularizada: el bucle mejoró la lectura de su indicador sin apenas mover la capacidad que ese indicador pretendía medir. Este es precisamente el modo de fallo que esta sección anticipa para las señales heurísticas, y disciplina nuestras afirmaciones en dos sentidos. Primero, las señales dimensionales de GROW siguen siendo, como se ha dicho, heurísticas y no calibradas; nada en nuestros resultados autoriza a tratar la automodificación guiada por puntuaciones como aprendizaje. Segundo, el mismo estudio es evidencia del mecanismo central de este artículo: fue la variante regularizada —un presupuesto decreciente de ediciones independientes por ronda, un registro de intentos rechazados, la exploración forzada de componentes no modificados y un crítico que rechaza la codificación rígida específica del benchmark— la que recuperó una generalización modesta pero real (hasta +4.3 en los cinco benchmarks fuera de distribución, mejorando las seis particiones reservadas, con un 30% menos de tokens de política que el bucle no regularizado), mientras que la variante sin restricciones incurrió en sobreajuste. La restricción, y no la libertad, es lo que hizo segura la automodificación en tiempo de ejecución en la única comparación controlada disponible. Esos avances son modestos y, en el momento de redactar este texto, reportados por los propios autores sin replicación independiente; citamos el estudio como una condición de frontera a la que nuestro programa de calibración debe responder, no como un apoyo.
5.3 La gobernanza a lo largo del ciclo de vida de la IA
Una síntesis que emerge del trabajo relacionado es que los enfoques de gobernanza existentes se distribuyen a lo largo del ciclo de vida de la IA, cada uno operando en una capa arquitectónica y una fase temporal distintas. Ningún enfoque por sí solo cubre la línea temporal completa.
| Fase | Enfoque | Capa | Trabajo representativo |
|---|---|---|---|
| Preentrenamiento | Investigación de seguridad, evaluación de capacidades | Corpus de entrenamiento, diseño de benchmarks | [5] |
| Tiempo de entrenamiento | Principios constitucionales, documentos de comportamiento | Pesos del modelo | [18] |
| Tiempo de razonamiento | Gobernanza neurocognitiva (PAGRL) | Razonamiento del modelo, inferencia | [2] |
| Tiempo de prueba | Evaluación estructurada de alineación | Infraestructura de evaluación | [21] |
| Tiempo de ejecución | Gobernanza programática (GROW) + RL en tiempo de ejecución (§3.9) | Infraestructura de ejecución | Este artículo |
| Post hoc | Auditoría basada en interpretabilidad | Componentes internos del modelo | [22] |
Cada fase aborda modos de fallo que las demás no abordan. El entrenamiento constitucional da forma a los principios internos del modelo, pero no restringe las acciones en tiempo de ejecución: el modelo aún puede actuar fuera de su distribución de entrenamiento. PAGRL modifica el razonamiento en la inferencia, pero no persiste el estado entre sesiones ni detecta la deriva conductual a lo largo del tiempo. PETRI evalúa la alineación en tiempo de prueba, pero no puede imponer la conformidad en la ejecución. Los NLA revelan motivaciones ocultas a posteriori, pero no pueden impedir acciones en tiempo real.
GROW opera en el espacio del tiempo de ejecución: la fase más cercana a la acción, donde la gobernanza tiene el efecto más inmediato sobre el comportamiento del agente y la menor capacidad de apoyarse en lo que el propio modelo reporta. Es también la fase más desatendida por el trabajo existente: los marcos de agentes gestionan el flujo de tareas, no la conformidad [16]; el paradigma del control de la IA se centra en salvaguardas previas al despliegue en lugar de la retroalimentación en tiempo de ejecución [4]; y los conjuntos de herramientas de gobernanza de la industria proporcionan monitoreo basado en pulsos, pero no corrección autorreparadora [3, 17, 24].
Situado dentro de este ciclo de vida, GROW no es un sustituto de la gobernanza en tiempo de entrenamiento ni en tiempo de razonamiento. Es una capa complementaria que cubre el vacío del tiempo de ejecución. En conjunto, las fases forman una estrategia de defensa en profundidad en la que la gobernanza de cada capa cubre los puntos ciegos de las demás.
References
[1] Rabanser, S., Kapoor, S., Kirgis, P., Liu, K., Utpala, S., & Narayanan, A. (2026). Towards a Science of AI Agent Reliability. arXiv:2602.16666.
[2] Bandara, E., Gore, R., Gunaratna, A., et al. (2026). Think Before You Act: A Neurocognitive Governance Model for Autonomous AI Agents. arXiv:2604.25684.
[3] Microsoft. (2026). Agent Governance Toolkit: Open-source runtime security for AI agents. https://github.com/microsoft/agent-governance-toolkit
[4] Greenblatt, R., Shlegeris, B., Sachan, K., & Roger, F. (2023). AI Control: Improving Safety Despite Intentional Subversion. arXiv:2312.06942.
[5] Bowman, S., et al. (2024). Recommendations for Technical AI Safety Research Directions. https://alignment.anthropic.com/2025/recommended-directions/
[6] Yao, S., et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
[7] Wei, J., et al. (2022). Emergent Abilities of Large Language Models. arXiv:2206.07682.
[8] Schaeffer, R., Miranda, B., & Koyejo, S. (2023). Are Emergent Abilities of Large Language Models a Mirage? arXiv:2304.15004.
[9] Russell, J. A. (1980). A circumplex model of affect. Journal of Personality and Social Psychology, 39(6), 1161–1178.
[10] Mehrabian, A., & Russell, J. A. (1974). An Approach to Environmental Psychology. MIT Press.
[11] Picard, R. W. (1995). Affective Computing. MIT Media Laboratory Perceptual Computing Section Technical Report No. 321.
[12] Ekman, P. (1972). Universals and cultural differences in facial expressions of emotion. In J. Cole (Ed.), Nebraska Symposium on Motivation (Vol. 19, pp. 207–283).
[13] Plutchik, R. (1980). A general psychoevolutionary theory of emotion. In R. Plutchik & H. Kellerman (Eds.), Emotion: Theory, Research, and Experience (Vol. 1, pp. 3–33).
[14] Du, H., Thudumu, S., Nguyen, H., Vasa, R., & Mouzakis, K. (2024). A Comprehensive Survey on Context-Aware Multi-Agent Systems: Techniques, Applications, Challenges and Future Directions. arXiv:2402.01968.
[15] Cohen, M. C., Kim, N., Ba, Y., Pan, A., et al. (2024). PADTHAI-MM: Principles-based Approach for Designing Trustworthy, Human-centered AI using MAST Methodology. arXiv:2401.13850.
[16] Google. (2025). Google Agent Development Kit (ADK): Context engineering for production multi-agent systems. Google Developers Blog. https://developers.googleblog.com/architecting-efficient-context-aware-multi-agent-framework-for-production/
[17] Paperclip AI. (2026). Paperclip: Control plane for AI agents. https://paperclip.ing/
[18] Anthropic. (2026). Teaching Claude Why: Reducing Agentic Misalignment Through Constitutional Training. https://www.anthropic.com/research/teaching-claude-why
[19] Troy, K. K., Hadfield-Menell, D., & Irving, G. (2026). Project Deal: AI Agents in a Classified Marketplace. https://www.anthropic.com/features/project-deal
[20] Anthropic. (2025). Project Vend: Phase Two. https://www.anthropic.com/research/project-vend-2
[21] Anthropic. (2026). Donating Our Open-Source Alignment Tool (Petri 3.0). https://www.anthropic.com/research/donating-open-source-petri
[22] Anthropic. (2026). Natural Language Autoencoders: Turning Claude's Thoughts into Text. https://www.anthropic.com/research/natural-language-autoencoders
[23] DeepSeek-AI. (2025). DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence. arXiv:2501.12948. https://arxiv.org/abs/2501.12948
[24] AI Trust OS. (2026). A Continuous Governance Framework for Autonomous AI Observability and Zero-Trust Compliance in Enterprise Environments. arXiv:2604.04749.
[25] Medeiros, I. (2026). Beyond the Conversation Trap: Designing for Hybrid Human-Agent Interaction Modes. { design@tive } information design.
[26] Digital Regulation Cooperation Forum (DRCF). (2026). An Autonomy-Based Classification for AI Agents. UK CMA, FCA, ICO, Ofcom.
[27] Anthropic. (2026). Extending Reasoning Boundaries Through Runtime Learned Verifiable Reinforcement. https://www.anthropic.com/research/rlvr
[28] DeepSeek-AI. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. arXiv:2501.12948.
[29] Wolfram, S. (2025). The Ruliad: A New Kind of Theory of Everything. Wolfram Media. — Also see Wolfram's public lectures on computational irreducibility, the ruliad, and observer-dependent physics.
[30] Takehi, R., Teoh, J., Zhang, A., & Khattab, O. (2026). "Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights." MIT CSAIL, Nov 2, 2026. (Institutional blog post reporting the underlying work; not a peer-reviewed paper.)
[31] Krentsel, A. (2026). Independent reproduction of the weight-space programming from-scratch experiment across model generations. Google Research. (Researcher write-up; reports near-zero success for GPT-5–5.5 and Opus 4.5–4.8, abrupt appearance in the newest generation.)
[32] Independent replication of weight-space programming (csinva.io), 2026: 959 weight-space programs written by an LLM across 13 small tasks; all ten algorithmic tasks solved within three attempts.
[33] Xia, P., Han, R., Wang, Z., Chen, Y., Zhuang, Y., Lee, Y., Huang, C., Yu, H., CuiZhu, Z., Ming, Y., Yao, H., Gokturk, B., Pfister, T., & Lee, C.-Y. (2026). "RRSI: Regularized Recursive Self-Improvement of Agent Harnesses." arXiv:2609.24972 (v3, Oct 4, 2026).
[34] Chen, E. (2026). "Fresh Memory, Stale Plans: Dependency-Scoped Validation for Distributed LLM-Agent Memory." arXiv:2609.03340. (Revised version titled "Derivation Currency for Distributed LLM-Agent Memory.") Under review at ICLR 2027.
The author welcomes correspondence at hello@algorilla.org.