Curating Design and Decision Intention in a Modern Agentic Software Factory

Conservar la intención de diseño y de decisión en una fábrica de software agéntica moderna

Cualquiera que haya pasado una tarde conversando con un asistente de IA ha vivido esto: describir un cambio en un programa y recibir, pocos segundos después, algo que funciona. La primera vez sorprende. A la décima se ha vuelto corriente, y es esa normalidad, más que la sorpresa, lo que merece nuestra atención.

Imagine el mismo dispositivo a mayor escala. En lugar de una sola conversación, varios cientos, repartidas entre una docena de bases de código distintas y mantenidas durante meses. Parte del trabajo lo hizo una persona, parte un asistente bajo supervisión y parte un asistente que trabajaba de noche mientras su supervisor dormía. El software funciona, y los clientes han llegado a depender de él.

Pongamos un caso hipotético. Una mañana abre un archivo y encuentra una línea que fija la caducidad de un token de seguridad a los quince minutos de su emisión. Entiende sin dificultad lo que hace la línea; lo que no puede averiguar, por mucho que lea, es por qué el intervalo es de quince minutos y no de cinco o de cincuenta.

El trabajo que rodea a la escritura

Escribir código es la parte visible de construir software, más o menos como verter hormigón es la parte visible de construir un puente. La mayor parte de la empresa está en otro sitio: decidir qué hay que construir, revisar lo construido, probarlo, entregarlo y convivir con las consecuencias durante años. El sector llama desde hace tiempo a todo este ciclo el ciclo de vida del desarrollo, y la literatura profesional lo describió a fondo décadas antes de que se le aplicara nada parecido a una red neuronal.

Lo que ha cambiado en los últimos años es que las máquinas se han vuelto capaces de cubrir turnos reales dentro de ese ciclo. Un agente lee un informe de error entrante y determina a qué parte del sistema afecta. Otro redacta una corrección. Un tercero revisa la corrección y objeta todo lo que le parece objetable. Después, una persona lee la propuesta final y decide si se entrega.

Hoy, el servicio que he descrito se llama fábrica de software agéntica. Varias grandes empresas tienen una en producción, y las implementaciones libres se han vuelto perfectamente utilizables. Toda versión seria, comercial o gratuita, ha llegado a la misma división del trabajo: las máquinas preparan el trabajo y las personas lo aprueban. El trabajo no se ha eliminado, sino que se ha desplazado, y ese desplazamiento es, en conjunto, una ganancia considerable.

Lo dicho hasta aquí es conocido por quienes siguen el campo, y solo lo he repasado para llegar al asunto sobre el que quiero llamar su atención: la conservación de la intención de diseño y de decisión, ejemplificada aquí por la elección de quince minutos para un tiempo de expiración.

Una pregunta que el código no puede responder

Supongamos que le hace la pregunta a un asistente de IA, como haría cualquiera hoy en día. Si pregunta qué hace un fragmento de código, se lo dirá correctamente, y más rápido de lo que usted podría leerlo. El asistente tiene todo el texto delante, y la respuesta está en el texto.

Si pregunta por qué el código es como es, la naturaleza del intercambio cambia por completo, aunque nada en la actitud del asistente lo indique. Recibirá una respuesta fluida, segura, técnicamente informada y con toda la forma de una explicación genuina. También puede ser una invención.

La razón merece decirse con claridad, porque todo lo demás depende de ella. La intención de diseño y de decisión no está registrada en ningún lugar del software. El intervalo de quince minutos fue un juicio, emitido una tarde concreta por una persona concreta, que sopesó el tiempo que razonablemente podría necesitar un usuario legítimo frente al que se daría a un atacante, y que se decidió por una cifra que equilibraba aceptablemente ambos. Esa deliberación duró quizá una hora y solo existió en una mente. Si nadie se molestó en escribirla, ya es irrecuperable, y ningún análisis posterior la devolverá.

El asistente, invitado a explicar, ofrecerá una razón plausible en lugar de confesar que no la tiene. Si esa razón inventada se archiva después como documentación, un año más tarde será indistinguible de un relato auténtico de la decisión. La institución habrá envenenado su propia memoria con una afirmación que lleva todas las marcas externas de la verdad.

Aquí está, creo, la verdadera dificultad de delegar una parte creciente del trabajo en las máquinas. Las máquinas son competentes y lo son cada vez más. Lo que escasea es la intención de diseño y de decisión, es decir, el registro de por qué cada cosa es como es.

Dos tipos de conocimiento

Paso ahora de la dificultad al remedio que hemos adoptado en nuestra propia fábrica. Le hemos construido una memoria, y su forma se deriva de la distinción entre dos tipos de conocimiento que se comportan de forma opuesta.

El primero se obtiene con facilidad. Si se pregunta qué parte del sistema es responsable de un asunto dado, la respuesta puede extraerse del propio código, automáticamente, cada vez que algo cambia. Este conocimiento se mantiene al día sin esfuerzo, y cuando se equivoca, el error se anuncia solo, porque el software no se comportará como prometía el mapa. Es barato de producir y se corrige solo.

El segundo es la intención de diseño y de decisión, y es mucho más difícil de conseguir. Solo puede capturarse, y solo en el momento en que queda al descubierto, es decir, cuando una persona revisa un cambio y ya tiene el razonamiento en la cabeza. Pedido en ese momento, casi no cuesta nada. Pedido una hora después, por lo general ya no se recuerda. Este conocimiento se acumula en lugar de regenerarse; se anota una vez y nunca se descarta.

La asimetría entre ambos constituye todo el diseño. El primero es un mapa que redibujamos continuamente y sin ceremonia. El segundo es un libro de registro al que solo se puede añadir.

Cada entrada de ese libro lleva una declaración de su propio origen, y solo puede declarar dos. Una entrada redactada por el operador humano es doctrina. Una entrada propuesta por un agente es opinión: sigue siendo visible y útil, pero nunca adquiere autoridad. Un agente puede proponer una intención a la memoria; una persona decide qué se admite como doctrina. Esta distinción la impone la estructura del registro, no las buenas intenciones de nadie, y confiar en la estructura es deliberado: las buenas intenciones han producido un registro mediocre frente a un sistema cuya única ocupación es producir prosa segura de sí misma.

Un agente con presupuesto

La memoria que he descrito reside en una base de datos de grafos, y los agentes que la consultan pagan cada pregunta que hacen. Cada agente tiene un saldo en bitcoin cargado por adelantado, y cada consulta lo reduce. Lleva además una segunda bolsa, para el razonamiento que consume lo que devuelve el grafo, y cualquiera de las dos puede vaciarse. Cuando eso ocurre, el agente deja de escribir y espera a que una persona la reponga.

A muchos lectores les parecerá una complicación gratuita, y quiero defenderla, porque es el elemento más meditado del dispositivo.

Un agente con acceso ilimitado a un recurso no tiene forma de elegir entre los usos que podría darle. Cada alternativa cuesta lo mismo, es decir, nada, y donde no hay diferencia de coste no hay nada que sopesar. Dé a ese mismo agente un presupuesto y su conducta cambia de inmediato. Hace primero la pregunta amplia, y solo paga el descenso más profundo en la intención registrada cuando la respuesta amplia no le ha satisfecho.

Los lectores familiarizados con Menger y Mises reconocerán el principio sin más ayuda. Los precios son el instrumento con el que una mente economiza, y el cálculo solo es posible donde hay precios; sin ellos, incluso un actor muy capaz queda reducido a adivinar. No enseñamos frugalidad a nuestros agentes. Les dimos presupuestos, y el resto lo dedujeron ellos mismos.

Cargar por adelantado resuelve además una dificultad que aqueja a la mayoría de los servicios medidos: la interrupción constante para pedir autorización. Se toma una sola decisión al principio, tras la cual unos cuantos miles de llamadas se suceden sin más consultas. A nadie se le pide que apruebe nada en mitad de un razonamiento. Llamamos a este principio Don't Pester Your Customer™, y es la base sobre la que se ha construido Tollbooth DPYC™, la capa de medición que hay debajo de todo esto.

Los actores y su escenario

Si usted también es arquitecto de fábricas de software agénticas, quizá tenga algunas preguntas. ¿Dónde viven estos agentes, y qué conserva su conocimiento cuando terminan?

La primera respuesta es más sencilla de lo que cabría esperar. Un repositorio de GitHub ya anuncia sus propios cambios: se emiten notificaciones cuando se abre una incidencia, se sube una rama o se abre una propuesta para revisión. GitHub Actions lleva años gestionando esas notificaciones y puede lanzar un programa en respuesta a cualquiera de ellas. Estos agentes, por tanto, no necesitan ninguna plataforma permanente que los vigile ni ningún servicio funcionando sin parar a la espera de trabajo: se realizan como ejecutores de GitHub Actions. El evento es la convocatoria. El agente nace cuando hay algo que hacer y deja de existir pocos minutos después, una vez hecho.

Nuestra fábrica emplea a tres actores así, y los presentamos como es debido, porque todo lo que sigue describe su conducta.

El Portero está en la puerta. Cuando llega un informe de error, el Portero determina de qué trata realmente, qué parte del sistema es responsable y si el asunto merece la atención de alguien. El Portero no escribe ningún software.

El Oficial hace el trabajo. Con un asunto admitido por el Portero, el Oficial redacta una corrección, la envía a revisión y registra lo que aprendió al hacerlo.

El Inspector objeta. Lee la propuesta del Oficial con ánimo adversario, buscando todo lo que le parezca objetable, y lo hace antes de que se moleste a ninguna persona. Como el Portero, no escribe software.

Cada uno es un cliente en el sentido que pretende la capa de medición: cada uno tiene su propia identidad criptográfica y su propio saldo cargado, y a cada uno se le cobra lo que consume. Ninguno tiene memoria propia. Todos han desaparecido en un cuarto de hora.

Detrás de los tres está el Revisor, que es una persona y tiene la clave del operador. Los tres preparan; el Revisor dispone.

La permanencia está en otra parte, en una base de datos de grafos que mantiene un operador al que llamamos Cypher-MCP, único custodio de la intención conservada. Los actores llegan a ella llamando a un pequeño conjunto de preguntas y afirmaciones publicadas, cada una escrita de antemano y que solo admite parámetros. Ningún agente compone nunca una consulta propia, lo que cierra una vía evidente de abuso: un agente que lee textos enviados por desconocidos en internet no debería encargarse también de componer las instrucciones que esos textos podrían influir. Qué identidades pueden escribir, y qué puede escribir cada una, lo decide el operador, no el agente que lo pide.

El dispositivo es, pues, una memoria permanente atendida por sirvientes fugaces.

Un día en la fábrica de software agéntica

Volvamos al ejemplo de la incidencia sobre el tiempo de expiración y veamos funcionar la maquinaria.

Una mañana, un integrador presenta un informe: las sesiones caducan demasiado pronto, los usuarios quedan fuera en mitad de su trabajo, y ¿podríamos subir el intervalo a una hora? La queja es sincera, está bien descrita y, a primera vista, es del todo razonable.

GitHub Actions detecta la nueva incidencia y convoca al Portero, que nace con una identidad y un saldo de unos pocos miles de satoshis.

El Portero hace primero la pregunta amplia: qué parte del sistema se encarga de la caducidad de las sesiones. El grafo responde de inmediato, nombrando la capacidad y el servicio que la implementa. Solo entonces el Portero paga el descenso más profundo: lo que ya sabemos sobre por qué esa capacidad se comporta así.

Aquí la mañana da un giro. El grafo devuelve una intención registrada, redactada por una persona y marcada como doctrina: el intervalo de quince minutos se eligió deliberadamente, como la ventana más larga que necesitaría un interlocutor legítimo y la más corta que le resultaría útil a un atacante con un token robado. La entrada está vinculada a un invariante que rige el camino de las credenciales, y el invariante se basa en la especificación registrada.

El Portero ha entendido el asunto sin abrir un solo archivo. Registra su clasificación, marca la incidencia como relativa a una decisión protegida y pasa el trabajo con la intención registrada adjunta.

Esa etiqueta convoca al Oficial, que lee lo que dejó el Portero. Está así en una posición que ningún asistente que trabajara solo con el código podría ocupar: sabe que el cambio solicitado derogaría un juicio de seguridad meditado, y sabe quién lo emitió y por qué.

Así que declina hacer el cambio tal como se pidió y propone otra cosa. El intervalo se queda en quince minutos y la sesión se renueva sola, discretamente, mientras el interlocutor sigue trabajando: la queja del integrador queda resuelta y la ventana del atacante sigue cerrada. La propuesta se envía a revisión con el razonamiento adjunto, y el Oficial registra la intención que formó mientras trabajaba, marcada como su propia opinión y nada más.

El Inspector la toma a continuación, la lee con ánimo adversario y no encuentra nada que objetar. Solo entonces se molesta a una persona.

El Revisor lee la propuesta esa tarde y está de acuerdo. Fusionarla es el menor de los dos actos que siguen. El mayor es de conservación: el Revisor, con la clave del operador, registra la intención como doctrina en su propio nombre. La distinción merece detenerse en ella, porque el botón de fusionar no confiere autoridad alguna. La autoridad reside en la clave, y la clave la tiene el operador. El grafo contiene ahora una segunda intención registrada bajo la primera, que explica por qué se introdujo la renovación y qué debía preservar. Los tres actores hace mucho que desaparecieron. La memoria es un poco mayor que a la hora del desayuno.

Piense en lo que ocurre en una fábrica sin esa memoria. Un agente capaz lee una petición clara, cortés y bien argumentada de ampliar un tiempo de expiración, no encuentra nada en el código que la contradiga y hace exactamente lo que se le pide. El cambio es pequeño, las pruebas pasan y el revisor, sin motivo para sospechar, lo aprueba. Una máquina que no sabía que estaba tomando una decisión de seguridad la ha derogado, y el mensaje del commit explicará el razonamiento en una prosa fluida y segura.

Algunas funciones próximas

Cada intención registrada quedará vinculada a un elemento concreto del sistema, de modo que, cuando ese elemento cambie, podamos preguntarnos si la intención sigue vigente. Una decisión cuyo objeto haya desaparecido discretamente dejará de ser un documento obsoleto para convertirse en una alarma, que la propia fábrica dará antes de entregar el cambio.

Otra función abordará el asunto con el que empezó este ensayo. La conversación que mantiene con un asistente es hoy un asunto privado, y lo que en ella se concluye solo llega a la fábrica si usted se molesta en llevarlo. Queremos dar a esa conversación un cliente propio, llamado el Explorador, otro cliente DPYC que, como los demás, tendrá identidad y saldo y estará autorizado a presentar un informe en los repositorios en su nombre. (En GitHub, incluso en un repositorio público, los desconocidos anónimos no pueden abrir incidencias: los autores deben ser usuarios registrados de GitHub. El Explorador lo será.) Una tarde de conversación con Claude.ai podría plantear incidencias o peticiones de funciones que llegarían a la puerta del Portero por la mañana, ya formuladas para su clasificación, y la distancia entre tener una idea sobre un sistema y que ese sistema empiece a actuar en consecuencia quedaría reducida casi a nada.

Una fábrica que conserva la intención de diseño y de decisión, como destaca este artículo, ha dejado de meter cada vez más papeles en un archivador desordenado y ha empezado a adquirir y usar memoria, lo cual es una diferencia considerable. Es una intención que nos hemos propuesto cumplir.

Regresar al blog