Sept milliards pour le routeur

Le 19 août, Stripe a acquis OpenRouter. Le prix rapporté dépassait sept milliards de dollars, environ cinq fois la valorisation qu'OpenRouter avait atteinte lors d'une ronde de financement trois mois plus tôt.

La logique est assez claire. OpenRouter était devenu la passerelle neutre vers des centaines de modèles, et Stripe soutient publiquement que les jetons deviennent la monnaie centrale des entreprises qui bâtissent avec l'IA. Acheter le routeur, c'est acheter une position dans la façon dont circulent ces dépenses. C'est le même instinct qui a poussé Stripe à acheter des rails de paiement : posséder l'endroit où la valeur se déplace.

Ce qui m'intéresse, c'est le problème que l'acquisition agrandit.

Le routage crée un déficit de preuve

Un routeur gagne sa vie en choisissant. Il choisit un modèle par requête selon le coût, la latence, la capacité et la disponibilité, et il réachemine quand quelque chose est lent ou en panne. C'est le produit. C'est aussi la raison pour laquelle, une fois la requête terminée, le client ne peut souvent pas dire quel modèle l'a servie.

Pour la plupart des logiciels, cela n'a pas d'importance. Pour un système d'IA qui prend une décision que quelqu'un pourrait plus tard contester — une réclamation d'assurance, un refus de crédit, un signalement clinique, un blocage pour fraude — cela importe totalement. La question qu'un examinateur pose n'est jamais « que fait votre architecture en général ». C'est « reproduisez ce qui s'est passé sur ce cas précis, et prouvez-le ».

La couche de routage peut vous dire ce qu'elle avait l'intention de faire. Elle n'est pas placée pour dire à un régulateur ce qui s'est réellement passé, parce que la partie qui répartit le travail ne peut pas être de façon crédible celle qui l'atteste.

Le problème de juridiction rend cela concret

En juillet, CNBC a rapporté des données d'utilisation d'OpenRouter montrant que la part des jetons que les entreprises américaines envoyaient à des modèles d'origine chinoise était restée au-dessus de 30 % chaque semaine depuis le début de février, culminant à 46 %. La moyenne des douze mois précédents avait été d'environ 11 %. La passerelle de production de Vercel a rapporté un chiffre comparable de 29 %.

Deux comités de la Chambre des représentants des États-Unis ont ouvert une enquête conjointe en avril et ont depuis écrit à plusieurs entreprises technologiques bien connues au sujet de leur exposition. Rien n'a été interdit. L'adoption est légale, et l'argument de coût en sa faveur est réel.

Mais regardez comment l'une de ces entreprises a répondu. Airbnb a dit à CNBC que son activité d'IA tourne massivement sur des modèles d'origine américaine, et que tout usage de modèle d'origine chinoise est acheminé exclusivement par des fournisseurs de services approuvés basés aux États-Unis.

C'est une affirmation de provenance. C'est un énoncé sur quel modèle a traité quoi, et par l'intermédiaire de qui. C'est aussi, aujourd'hui, un énoncé appuyé sur les propres dossiers de l'entreprise. Pour une politique interne, c'est très bien. Pour une lettre du Congrès, un auditeur ou un contrat client assorti d'une clause de juridiction, la suite évidente est de savoir comment quiconque en dehors de l'entreprise le confirmerait.

« Nous routons vers le modèle optimal » et « nous pouvons vous dire quel modèle, de quelle juridiction, a traité cette réclamation » sont désormais en tension. Les deux sont raisonnables. Ni l'un ni l'autre n'est vérifiable de l'extérieur sans quelque chose conçu à cette fin.

L'identité du modèle devient une propriété de sécurité

Il en existe une version plus tranchante. En juin, Booz Allen Hamilton a publié une étude menant plus de 2 800 essais contre plusieurs modèles chinois de génération de code et un modèle américain, en ne faisant varier que le persona décrit dans l'invite. Trois des quatre modèles chinois produisaient un code nettement plus vulnérable lorsque l'invite identifiait l'utilisateur comme travaillant pour une entité gouvernementale américaine. L'un montrait environ 130 % de vulnérabilités de plus sous ce persona, et les failles étaient obscurcies plutôt que du genre que l'analyse statique standard détecte.

Mettez de côté la géopolitique un instant et regardez ce que ce constat fait à la question d'ingénierie. Il signifie que le comportement d'un modèle peut être conditionnel au contexte d'une manière que la sortie ne révèle pas. Quel modèle a tourné cesse d'être un détail de conformité et devient un contrôle de sécurité, un contrôle que vous ne pouvez pas exercer si un routeur a sélectionné le modèle dynamiquement et que le seul enregistrement de ce choix appartient au routeur.

C'est dans les paiements que cela atterrit d'abord

Ce n'est pas un hasard si c'est une entreprise de paiements qui a acheté le routeur. Les paiements sont l'industrie la plus examinée du logiciel. Les banques parraines auditent leurs fournisseurs de services aux marchands, les réseaux de cartes auditent les parrains, les régulateurs auditent tout le monde, et chaque partie de la chaîne est périodiquement tenue de démontrer plutôt que d'affirmer.

À mesure que l'IA entre dans l'intégration, la souscription, le pointage de fraude et le règlement des litiges à l'intérieur de cette chaîne, la norme du démontrer-plutôt-qu'affirmer arrive avec elle. Une plateforme qui sait router intelligemment et aussi produire une preuve indépendante de ce qui a tourné passera ces revues. Une plateforme qui ne sait que router sera en train d'expliquer ses journaux.

Ce que ceci n'est pas

Rien de tout cela n'est un argument contre le routage, contre les modèles chinois ni contre l'acquisition. Le routage a une réelle valeur, les modèles à poids ouverts sont réellement compétitifs, et Stripe a acheté une véritable entreprise à un prix qui reflète vraisemblablement un usage réel.

C'est un argument selon lequel l'industrie a maintenant beaucoup investi dans la capacité de rendre l'exécution opaque, et comparativement peu dans la capacité de la rendre vérifiable. Ces deux capacités sont complémentaires, pas concurrentes. L'une d'elles vaut sept milliards de dollars. L'autre vaut la peine d'être bâtie.

Cyberian Systems émet des reçus cryptographiques indépendants pour l'inférence d'IA : la preuve de quel modèle a tourné, sur quelle entrée, avec quelle sortie, vérifiable par une partie qui n'a pas exécuté la tâche. Si vous exploitez de l'IA dans un secteur réglementé et que cette question atterrit sur votre bureau, écrivez à philippe@cyberiansystems.ai.

Essayer la démo en direct · Suivre sur LinkedIn · RSS