Curating Design and Decision Intention in a Modern Agentic Software Factory

Conserver l'intention de conception et de décision dans une usine logicielle agentique moderne

Quiconque a passé une soirée à converser avec un assistant IA a vécu ceci : décrire une modification à un logiciel et recevoir, quelques secondes plus tard, quelque chose qui fonctionne. La première fois, c'est saisissant. À la dixième, c'est devenu banal, et c'est cette banalité, plutôt que la surprise, qui mérite notre attention.

Imaginez le même dispositif à plus grande échelle. Au lieu d'une seule conversation, plusieurs centaines, réparties sur une douzaine de bases de code distinctes et menées sur plusieurs mois. Une partie du travail a été faite par une personne, une partie par un assistant sous supervision, et une partie par un assistant qui travaillait la nuit pendant que son superviseur dormait. Le logiciel tourne, et des clients en sont venus à en dépendre.

Prenons un cas hypothétique. Un matin, vous ouvrez un fichier et trouvez une ligne qui fixe l'expiration d'un jeton de sécurité à quinze minutes après son émission. Vous comprenez sans peine ce que fait la ligne ; ce que vous ne pouvez déterminer, quelle que soit la quantité de lecture, c'est pourquoi l'intervalle est de quinze minutes plutôt que de cinq ou de cinquante.

Le travail qui entoure l'écriture

Écrire du code est la partie visible de la construction d'un logiciel, à peu près comme couler le béton est la partie visible de la construction d'un pont. L'essentiel de l'entreprise se trouve ailleurs : déterminer ce qui doit être construit, relire ce qui l'a été, le tester, le livrer, et vivre avec les conséquences pendant des années. Le secteur appelle depuis longtemps tout ce cycle le cycle de développement, et la littérature professionnelle l'avait minutieusement décrit des décennies avant que quoi que ce soit ressemblant à un réseau de neurones lui soit appliqué.

Ce qui a changé ces dernières années, c'est que des machines sont devenues capables d'assurer de vraies tranches de travail dans ce cycle. Un agent lit un rapport d'anomalie entrant et détermine la partie du système concernée. Un deuxième rédige une correction. Un troisième relit la correction et objecte à tout ce qui lui semble contestable. Une personne lit ensuite la proposition finale et décide si elle doit être livrée.

Aujourd'hui, le service que je décris s'appelle une usine logicielle agentique. Plusieurs grandes entreprises en exploitent une en production, et les mises en œuvre libres sont devenues tout à fait utilisables. Toute version sérieuse, commerciale ou gratuite, aboutit à la même division du travail : les machines préparent le travail et les êtres humains l'approuvent. Le travail n'a pas tant été supprimé que déplacé, et ce déplacement est, dans l'ensemble, un gain considérable.

Ce que j'ai exposé jusqu'ici est connu de tous ceux qui suivent le domaine, et je ne l'ai rappelé que pour en venir au sujet sur lequel je voudrais attirer votre attention : la conservation de l'intention de conception et de décision, illustrée ici par le choix de quinze minutes pour un délai d'expiration.

Une question à laquelle le code ne peut pas répondre

Supposons que vous posiez la question à un assistant IA, comme on le ferait naturellement aujourd'hui. Si vous demandez ce que fait un morceau de code, il vous le dira correctement, et plus vite que vous n'auriez pu le lire vous-même. L'assistant a tout le texte sous les yeux, et la réponse est dans le texte.

Si vous demandez pourquoi le code est ainsi, la nature de l'échange change du tout au tout, même si rien dans l'attitude de l'assistant ne l'indique. Vous recevrez une réponse fluide, assurée, techniquement informée, ayant en tout point la forme d'une véritable explication. Elle peut aussi être une invention.

La raison mérite d'être dite clairement, car tout ce qui suit en dépend. L'intention de conception et de décision n'est inscrite nulle part dans le logiciel. L'intervalle de quinze minutes était un jugement, porté un certain après-midi par une certaine personne, qui a pesé le temps dont un utilisateur légitime pourrait raisonnablement avoir besoin contre le temps laissé à un attaquant, et qui a retenu un chiffre équilibrant acceptablement les deux. Cette délibération a duré peut-être une heure et n'a existé que dans un seul esprit. Si personne n'a pris la peine de l'écrire, elle est désormais irrécupérable, et aucune analyse ultérieure ne la restaurera.

L'assistant, invité à expliquer, fournira une raison plausible plutôt que d'avouer qu'il n'en a pas. Si cette raison inventée est ensuite classée comme documentation, elle sera, un an plus tard, impossible à distinguer d'un compte rendu authentique de la décision. L'institution aura empoisonné sa propre mémoire avec une affirmation qui porte toutes les marques extérieures de la vérité.

C'est là, je crois, que réside la vraie difficulté à déléguer une part croissante du travail aux machines. Les machines sont compétentes et le deviennent de plus en plus. Ce qui est devenu rare, c'est l'intention de conception et de décision, c'est-à-dire la trace de la raison pour laquelle chaque chose est comme elle est.

Deux sortes de connaissance

J'en viens maintenant au remède adopté dans notre propre usine. Nous lui avons construit une mémoire, dont la forme découle d'une distinction entre deux sortes de connaissance qui se comportent de façon opposée.

La première s'obtient facilement. Si l'on demande quelle partie du système est responsable d'une préoccupation donnée, la réponse peut être tirée du code lui-même, automatiquement, à chaque changement. Cette connaissance reste à jour sans effort, et quand elle se trompe, l'erreur se signale d'elle-même, puisque le logiciel ne se comportera pas comme la carte l'a promis. Elle est peu coûteuse à produire et se corrige d'elle-même.

La seconde est l'intention de conception et de décision, et elle est bien plus difficile à obtenir. On ne peut que la capter, et seulement au moment où elle est à découvert, c'est-à-dire quand une personne relit une modification et a déjà le raisonnement en tête. Demandée à ce moment-là, elle ne coûte presque rien. Demandée une heure plus tard, elle est généralement perdue. Cette connaissance s'accumule au lieu de se régénérer ; elle est inscrite une fois et jamais jetée.

L'asymétrie entre les deux constitue toute la conception. La première est une carte que nous redessinons sans cesse et sans cérémonie. La seconde est un registre auquel on ne peut qu'ajouter.

Chaque entrée de ce registre porte la mention de sa propre origine, et elle ne peut en déclarer que deux. Une entrée rédigée par l'opérateur humain fait doctrine. Une entrée proposée par un agent vaut opinion : elle reste visible et utile sans jamais faire autorité. Un agent peut proposer une intention à la mémoire ; un être humain décide de ce qui est admis comme doctrine. C'est la structure du registre qui impose cette distinction, et non les bonnes intentions de quiconque. Le recours à la structure est délibéré : les bonnes intentions ont produit un registre médiocre face à un système dont toute l'occupation est de produire une prose assurée.

Un agent avec un budget

La mémoire que j'ai décrite réside dans une base de données de graphe, et les agents qui la consultent paient chaque question qu'ils posent. Chaque agent dispose d'un solde en bitcoin provisionné d'avance, et chaque requête le réduit. Il a une seconde bourse, pour le raisonnement qui exploite ce que renvoie le graphe, et l'une comme l'autre peut s'épuiser. Quand cela arrive, l'agent cesse d'écrire et attend qu'une personne la réapprovisionne.

Beaucoup de lecteurs y verront une complication gratuite, et je voudrais la défendre, car c'est l'élément le plus réfléchi du dispositif.

Un agent qui dispose d'un accès illimité à une ressource n'a aucun moyen de choisir entre les usages qu'il pourrait en faire. Chaque option coûte la même chose, c'est-à-dire rien, et là où il n'y a pas de différence de coût, il n'y a rien à peser. Donnez à ce même agent un budget, et sa conduite change aussitôt. Il pose d'abord la question générale, et ne paie la descente plus profonde dans l'intention enregistrée que lorsque la réponse générale ne l'a pas satisfait.

Les lecteurs familiers de Menger et de Mises reconnaîtront le principe sans aide. Les prix sont l'instrument par lequel un esprit économise, et le calcul n'est possible que là où il y a des prix ; sans eux, même un acteur très capable en est réduit à deviner. Nous n'avons pas enseigné la frugalité à nos agents. Nous leur avons donné des budgets, et ils ont trouvé le reste par eux-mêmes.

Le provisionnement à l'avance règle aussi une difficulté qui afflige la plupart des services facturés : l'interruption constante pour autorisation. Une seule décision est prise au départ, après quoi quelques milliers d'appels se déroulent sans autre consultation. Personne n'est prié d'approuver quoi que ce soit au milieu d'une réflexion. Nous appelons ce principe Don't Pester Your Customer™, et c'est le fondement sur lequel est bâti Tollbooth DPYC™, la couche de facturation sous-jacente à tout cela.

Les acteurs et leur scène

Si vous êtes vous aussi architecte d'usine logicielle agentique, vous avez peut-être quelques questions. Où vivent ces agents, et qu'est-ce qui conserve leur savoir une fois leur travail fini ?

La première réponse est plus simple qu'on ne le croirait. Un dépôt GitHub annonce déjà ses propres changements : des notifications sont émises quand un ticket est ouvert, une branche poussée ou une proposition soumise à relecture. GitHub Actions gère ces notifications depuis des années et peut lancer un programme en réponse à chacune. Ces agents n'ont donc besoin d'aucune plateforme permanente pour les surveiller, ni d'aucun service tournant en permanence dans l'attente de travail : ils sont réalisés comme des exécuteurs GitHub Actions. L'événement est la convocation. L'agent naît quand il y a quelque chose à faire et cesse d'exister quelques minutes plus tard, une fois la chose faite.

Notre usine emploie trois acteurs de ce genre, et nous les présentons comme il se doit, car tout ce qui suit décrit leur conduite.

Le Portier se tient à la porte. Quand un rapport d'anomalie arrive, le Portier détermine de quoi il s'agit réellement, quelle partie du domaine est concernée, et si l'affaire mérite l'attention de quiconque. Le Portier n'écrit aucun logiciel.

Le Compagnon fait le travail. Saisi d'une affaire admise par le Portier, le Compagnon rédige une correction, la soumet à relecture et consigne ce qu'il a appris en la faisant.

L'Inspecteur objecte. Il lit la proposition du Compagnon dans un esprit contradictoire, à la recherche de tout ce qui lui semble contestable, et il le fait avant qu'une personne ait eu à s'en occuper. Comme le Portier, il n'écrit aucun logiciel.

Chacun est un client au sens où l'entend la couche de facturation : chacun a sa propre identité cryptographique et son propre solde provisionné, et chacun paie ce qu'il consomme. Aucun n'a de mémoire propre. Tous ont disparu dans le quart d'heure.

Derrière les trois se tient le Relecteur, qui est une personne et détient la clé de l'opérateur. Les trois préparent, le Relecteur dispose.

La permanence réside ailleurs, dans une base de données de graphe tenue par un opérateur que nous appelons Cypher-MCP, seul gardien de l'intention conservée. Les acteurs l'atteignent en appelant un petit ensemble de questions et d'affirmations publiées, chacune écrite à l'avance et n'admettant que des paramètres. Aucun agent ne compose jamais sa propre requête, ce qui ferme une voie évidente de malveillance : un agent qui lit des textes soumis par des inconnus sur l'internet public ne devrait pas être aussi chargé de composer les instructions que ces textes pourraient influencer. Quelles identités peuvent écrire, et quoi, c'est l'opérateur qui le décide, pas l'agent qui le demande.

Le dispositif est donc une mémoire permanente servie par des serviteurs éphémères.

Une journée dans l'usine logicielle agentique

Revenons à notre exemple d'anomalie sur le délai d'expiration et regardons la machine fonctionner.

Un matin, un intégrateur dépose un rapport : les sessions expirent bien trop vite, les utilisateurs sont déconnectés en plein travail, et pourrions-nous porter l'intervalle à une heure ? La plainte est sincère, bien décrite et, à première vue, parfaitement raisonnable.

GitHub Actions remarque le nouveau ticket et convoque le Portier, qui naît avec une identité et un solde de quelques milliers de satoshis.

Le Portier pose d'abord la question générale : quelle partie du domaine gère l'expiration des sessions ? Le graphe répond aussitôt, en nommant la capacité et le service qui la réalise. Alors seulement, le Portier paie la descente plus profonde : ce que nous savons déjà de la raison pour laquelle cette capacité se comporte ainsi.

C'est là que la matinée bascule. Le graphe renvoie une intention enregistrée, rédigée par une personne et marquée comme doctrine : l'intervalle de quinze minutes a été choisi délibérément, comme la plus longue fenêtre dont un correspondant légitime aurait besoin et la plus courte qui serait utile à un attaquant en possession d'un jeton volé. L'entrée est liée à un invariant qui régit le chemin des identifiants, et cet invariant s'appuie sur la spécification déposée.

Le Portier a désormais compris l'affaire sans avoir ouvert un seul fichier. Il consigne son tri, marque le ticket comme touchant une décision protégée, et transmet le travail avec l'intention enregistrée en pièce jointe.

Le Compagnon est convoqué par cette étiquette et lit ce que le Portier a laissé. Il se trouve ainsi dans une position qu'aucun assistant travaillant à partir du seul code ne pourrait occuper : il sait que le changement demandé abrogerait un jugement de sécurité réfléchi, et il sait qui a porté ce jugement et pour quelles raisons.

Il refuse donc d'effectuer le changement tel que demandé et propose autre chose. L'intervalle reste à quinze minutes, et la session se renouvelle discrètement tant que le correspondant travaille : la plainte de l'intégrateur trouve sa réponse, et la fenêtre de l'attaquant reste fermée. La proposition est soumise à relecture avec son raisonnement, et le Compagnon consigne l'intention qu'il a formée en travaillant, marquée comme sa propre opinion, rien de plus.

L'Inspecteur la reprend ensuite, la lit dans un esprit contradictoire et n'y trouve rien à redire. Alors seulement, on dérange une personne.

Le Relecteur lit la proposition dans l'après-midi et l'approuve. La fusion est le moindre des deux actes qui suivent. Le plus important est un acte de conservation : le Relecteur, sous la clé de l'opérateur, enregistre l'intention comme doctrine en son propre nom. La distinction mérite qu'on s'y arrête, car le bouton de fusion ne confère aucune autorité. L'autorité réside dans la clé, et la clé appartient à l'opérateur. Le graphe contient maintenant une seconde intention enregistrée sous la première, qui explique pourquoi le renouvellement a été introduit et ce qu'il devait préserver. Les trois acteurs ont disparu depuis longtemps. La mémoire est un peu plus grande qu'au petit-déjeuner.

Voyez ce qui se passe dans une usine sans une telle mémoire. Un agent compétent lit une demande claire, courtoise et bien argumentée d'allonger un délai d'expiration, ne trouve rien dans le code qui la contredise, et fait exactement ce qu'on lui demande. Le changement est petit, les tests passent, et le relecteur, sans raison de se méfier, l'approuve. Une décision de sécurité a été abrogée par une machine qui ignorait en prendre une, et le message de commit expliquera le raisonnement dans une prose fluide et assurée.

Quelques fonctionnalités à venir

Chaque intention enregistrée sera liée à un élément précis du système, afin que, lorsque cet élément change, nous puissions nous demander si l'intention tient toujours. Une décision dont l'objet a discrètement disparu cessera alors d'être un document périmé et deviendra une alarme, levée par l'usine elle-même avant la livraison du changement.

Une autre fonctionnalité traitera la question par laquelle s'ouvrait cet essai. La conversation que vous menez avec un assistant est aujourd'hui une affaire privée, et ce qui s'y conclut n'atteint l'usine que si vous prenez la peine de l'y porter vous-même. Nous comptons donner à cette conversation un client à elle, appelé l'Éclaireur, un autre client DPYC doté comme les autres d'une identité et d'un solde, et autorisé à déposer un rapport dans les dépôts en votre nom. (Sur GitHub, même pour un dépôt public, des inconnus anonymes ne peuvent pas ouvrir de tickets : les auteurs doivent être des abonnés GitHub. L'Éclaireur en sera un.) Une soirée de discussion avec Claude.ai pourrait soulever des anomalies ou des demandes de fonctionnalités qui arriveraient à la porte du Portier au matin, déjà formulées pour le tri, et la distance entre avoir une idée sur un système et voir ce système commencer à agir en conséquence serait réduite presque à rien.

Une usine qui conserve l'intention de conception et de décision, comme le montre cet article, a cessé d'entasser toujours plus de papier dans un classeur en désordre et a commencé à acquérir et à utiliser une mémoire, ce qui fait une différence considérable. C'est une intention que nous nous sommes fixée.

Retour au blog