100 milliards de dollars d'inférence IA reposent sur la confiance aveugle
Chaque modèle d'IA qui tarifie une assurance, détecte une fraude ou prend une décision clinique produit aujourd'hui des résultats qu'aucun tiers ne peut vérifier de manière indépendante. Cette époque touche à sa fin.
L'économie mondiale dépense désormais plus de 100 milliards de dollars par année pour exécuter des modèles d'IA en production. Aucune de ces dépenses ne s'accompagne d'un mécanisme permettant de prouver que le modèle censé s'exécuter est bien celui qui s'est exécuté, sur les données qu'il était censé voir, de la manière dont il était censé calculer.
Quand une compagnie d'assurance utilise l'IA pour tarifer une police, l'assureur fait confiance au résultat du fournisseur par défaut. Quand une banque exécute une vérification de fraude par IA, l'équipe de conformité ne dispose d'aucune preuve cryptographique reliant le modèle qu'elle a audité le trimestre dernier au modèle qui a évalué la transaction ce matin. Quand un régime de santé utilise l'IA pour une autorisation préalable, il n'existe aucun enregistrement infalsifiable reliant le modèle, l'entrée et la décision.
Pendant des années, c'était une préoccupation abstraite, le genre de chose qui vivait dans les articles universitaires sur la « responsabilité de l'IA ». En 2026, c'est un problème de conformité concret, avec une date à la clé.
Quatre catalyseurs, une seule direction
Quatre pressions convergentes transforment le « nous devrions pouvoir vérifier cela » en « nous devons pouvoir vérifier cela ». Aucune n'est hypothétique, et aucune ne va disparaître.
Les systèmes d'IA à haut risque en crédit, assurance, santé et RH doivent prouver la correction du modèle. Les obligations de transparence s'appliquent dès août 2026 ; la conformité complète à l'annexe III, d'ici décembre 2027. Les systèmes à haut risque intégrés à des produits, d'ici août 2028. Les sanctions atteignent 7 % du chiffre d'affaires mondial.
Les courtiers-négociants doivent conserver les enregistrements des décisions pilotées par l'IA sous une forme non réinscriptible et non effaçable. Plus de 2 milliards de dollars d'amendes pour tenue de registres ont été imposés depuis 2021, dans plus de 95 actions en application. Les journaux de sortie d'IA standards ne respectent pas la norme.
Les avis de décision défavorable doivent remonter au modèle exact qui a produit la décision. Kistler c. Eightfold AI (N.D. Cal., déposé en janvier 2026) a ouvert une nouvelle théorie : les fournisseurs d'IA de recrutement pourraient eux-mêmes être des agences d'évaluation du crédit, avec des dommages-intérêts légaux de 100 à 1 000 $ par violation délibérée contre une base de données que le fournisseur présente comme couvrant « plus d'un milliard de personnes ».
Le recours collectif UnitedHealthcare nH Predict a établi que les systèmes d'IA de fournisseurs utilisés dans les décisions de prestations sont soumis à la communication de la preuve, aux dépositions et aux réclamations pour mauvaise foi. Le coût juridique de « nous ne pouvons pas reproduire ce que le modèle a fait hier » n'est plus théorique.
Le problème structurel
Dans tout autre domaine où la confiance compte — l'audit financier, les essais cliniques, la communication de la preuve juridique, la sécurité certifiée des produits — on sépare l'entité qui fait le travail de l'entité qui vérifie qu'il a été fait.
Les auditeurs ne travaillent pas pour l'entreprise qu'ils auditent. Les sites d'essais cliniques ne rédigent pas leurs propres rapports d'efficacité. Les notaires ne certifient pas leurs propres signatures. La séparation n'est pas bureaucratique. C'est le seul moyen fiable pour qu'un tiers puisse agir sur le résultat.
Le fournisseur du modèle exécute le modèle. Le fournisseur du modèle journalise ce qui s'est passé. Le fournisseur du modèle atteste que les journaux sont exacts. Puis on demande au régulateur, au client, au tribunal de faire confiance au fournisseur du modèle sur les trois.
C'est là le problème structurel. Chaque symptôme en aval — les échecs d'audit, les reçus manquants, l'incapacité de reproduire la décision d'hier, les poursuites où les fournisseurs ne peuvent pas dire au tribunal ce que leur propre modèle a fait — en découle.
Ce qui vient ensuite
Les primitives cryptographiques qui nous permettraient de séparer l'exécutant du vérificateur existent depuis plus d'une décennie. Preuves à divulgation nulle de connaissance, engagements de Merkle, spécifications d'exécution déterministe, échantillonnage par réexécution indépendante. Ce qui n'existait pas, c'était un environnement réglementaire qui rendait le déficit de confiance assez coûteux pour être comblé.
Cet environnement existe maintenant. Les entreprises qui bâtissent pour une IA vérifiable avant d'y être contraintes ne seront pas celles qui liront des amendes réglementaires en 2028. Elles seront celles que leurs concurrents tentent de rattraper.