Sub-Millisecond Operators: Bringing Tollbooth-DPYC to Akamai WebAssembly Fermyon

Des Operators sous la milliseconde : Tollbooth-DPYC sur Akamai WebAssembly Fermyon

Dans l'économie Tollbooth-DPYC™ (Don't Pester Your Customer, « n'importunez pas le client »), un Operator est un marchand. Il offre la valeur subjective de ses outils MCP à des agents autonomes et règle chaque appel en bitcoin, sur le réseau Lightning, sans aucun intermédiaire entre l'acheteur et le vendeur.

En matière de commerce, la friction est l'adversaire, et une friction résiduelle nous agace depuis des mois : la latence de démarrage à froid de l'hébergement sous nos Operators. Voici le compte rendu d'un effort pour la supprimer.

Une heureuse rencontre à l'AI World's Fair 2026

À l'AI Engineer World's Fair de San Francisco cet été, j'ai assisté à une présentation de Thorsten Hans sur la plateforme Spin de Fermyon et son environnement d'exécution WebAssembly. Le chiffre qui a retenu mon attention était le temps de démarrage à froid par requête : quatre dixièmes de milliseconde, 0,4 ms.

Un module WebAssembly n'a ni conteneur ni machine virtuelle à démarrer : chaque invocation trouve une fonction pour ainsi dire déjà chaude. Fermyon a été racheté par Akamai à la fin de l'an dernier, et la technologie est désormais proposée sous le nom d'Akamai Functions, qui exécute du WebAssembly partout dans le monde sur le réseau d'Akamai. Une conversation ultérieure avec un ingénieur principal d'Akamai m'a convaincu que l'association méritait une étude sérieuse.

La question était simple. Les Operators Tollbooth DPYC tournent aujourd'hui comme services Python sur un hébergeur serverless, et le délai de démarrage se trouve en plein sur le chemin de la requête, là où le client doit attendre. Si un Operator pouvait plutôt tourner comme composant WebAssembly en périphérie de réseau, ce délai disparaîtrait presque entièrement, et l'appel d'outil deviendrait, du point de vue de l'agent, instantané.

Principe de conception : réutiliser, ne pas réécrire

Face à un nouvel environnement d'exécution, la tentation est de tout réimplémenter. Il fallait y résister.

L'ensemble du protocole Tollbooth-DPYC (vérification des preuves, registre de crédits, tarification, coffre chiffré, et comptage qui débite le client à chaque appel réussi) réside dans une unique bibliothèque Python que chaque Operator importe. Dupliquer cette logique pour la périphérie violerait l'économie la plus élémentaire de l'ingénierie et exposerait les deux copies à diverger. La règle de l'exercice a donc été fixée d'emblée : réutiliser la bibliothèque sans y toucher, et ne modifier que la fine couche serveur qui expose les outils, ainsi que le mode de déploiement.

Un examen sceptique de la bibliothèque a donné un résultat bienvenu. Elle s'importe déjà proprement dans un environnement dépourvu d'extensions natives, et sa couche de persistance dialogue déjà avec sa base de données en HTTP plutôt que par un pilote compilé. Le chemin critique commercial (vérifier la preuve en cache du client, confirmer un solde positif, servir l'outil, débiter le registre) s'est révélé être du Python pur de bout en bout. Autrement dit, les fondations étaient déjà adaptées à la périphérie.

Trois écarts entre CPython et le WebAssembly en périphérie

Être adapté ne signifie pas être suffisant. La version WebAssembly de Python omet trois facultés sur lesquelles un Operator s'appuie discrètement, et l'ingénierie de cette preuve de concept a surtout consisté à combler ces écarts sans modifier un seul octet de la bibliothèque partagée :

  • Sécurité du transport. L'hébergeur termine le TLS pour le compte du composant ; le module standard de sockets sécurisés est donc remplacé par un substitut léger, et les requêtes sortantes passent par la capacité HTTP propre à la plateforme.
  • Cryptographie. Les routines de signature et de chiffrement de la bibliothèque dépendent d'ordinaire de code compilé. À leur place, nous composons un petit composant cryptographique dédié, écrit en Rust et parlant l'interface de composants WebAssembly, qui effectue les opérations sur courbes elliptiques et symétriques requises par le protocole.
  • Contact avec les relais. Un Operator reçoit ses identifiants par un événement chiffré et signé par son Authority sur le réseau Nostr, et les relais Nostr ne parlent qu'en connexions WebSocket persistantes, que l'hébergeur ne propose pas. Un petit pont sans état, qui ne détient aucun secret et ne voit que du texte chiffré, relaie cet unique message afin que le composant puisse le déchiffrer et le vérifier sur place.

Une confiance minimale par construction

Une propriété de la conception mérite d'être soulignée, car c'est elle qui rend l'ensemble sûr à exécuter en périphérie. Le seul secret d'un Operator est sa propre clé Nostr.

Tout le reste dont il a besoin (l'emplacement de ses données et la clé qui les chiffre) lui est remis à l'exécution dans un message que seule son Authority a pu signer et que lui seul peut déchiffrer. Ses données sont stockées chiffrées ; la signature de l'Authority est vérifiée dans le bac à sable WebAssembly lui-même ; et le pont qui transporte le message d'identifiants ne détient jamais qu'une charge opaque. La périphérie gagne en vitesse sans qu'on lui accorde la moindre confiance.

Le but est presque atteint

Le véhicule de la preuve de concept est modeste : un Operator météo, calqué sur notre exemple de référence, qui propose trois outils payants dont les interfaces sont exactement préservées, de sorte que les identifiants existants d'un client continuent de fonctionner sans modification avec le nouvel environnement. Cette preuve est presque achevée.

Reste le déploiement sur le réseau d'Akamai et une mesure formelle de la latence de démarrage à froid et de la latence de queue face à l'hébergeur actuel : les chiffres qui nous diront combien de friction nous avons réellement supprimée.

L'enjeu dépasse tel ou tel service météo. Il s'agit de montrer qu'une unité de commerce souveraine, réglée en Bitcoin (un Operator qui ne répond à aucun processeur de paiement et ne divulgue aucun bénéficiaire effectif), peut s'exécuter aussi vite que le réseau le permet, sans renoncer à la souveraineté même qui en fait l'intérêt. La monnaie saine favorise une faible préférence temporelle ; une infrastructure saine devrait favoriser une faible latence. Ce travail tente d'honorer les deux.


Références (en anglais) : Akamai Functions ; le rachat de Fermyon par Akamai (Network World) ; le projet Tollbooth-DPYC ; le code source de la preuve de concept tollbooth-fermyon.

Retour au blog