Produits Démo Docs Blogue À propos Contact Se connecter S'inscrire
Blogue · · Philippe Laporte

Vous avez des journaux. Les journaux peuvent être modifiés.

Pourquoi les décisions d'IA ont besoin d'un enregistreur de vol, et comment nous en avons construit un.

Dans l'affaire Mobley v. Workday, un tribunal fédéral a permis à des plaintes pour discrimination de viser le fournisseur d'IA lui-même, sur la thèse qu'il agissait comme mandataire des employeurs qui l'utilisaient, puis a homologué un recours collectif national pour discrimination fondée sur l'âge. L'affaire ne repose pas sur des intentions, des politiques ou du marketing. Elle repose sur ce que le modèle a réellement fait.

Voilà la nouvelle forme du problème. Tout fournisseur d'IA qui vend à un secteur réglementé doit désormais être capable de prouver quel modèle a réellement tourné, sur quelle entrée, produisant quelle sortie. Aujourd'hui, presque aucun ne le peut.

Ce qui se passe quand la question arrive

Quand votre IA refuse une réclamation, évalue un prêt ou trie une candidature, quelqu'un finit par poser la question dans un cadre contradictoire : un examinateur, un auditeur, l'avocat d'un plaignant. Quel modèle a produit cette décision, et s'est-il exécuté correctement ?

Aujourd'hui, la réponse est une pile de registres tenus par soi-même. Des journaux et des tableaux de bord internes, rédigés par la partie sous examen. Un rapport SOC 2. Le contrat de fournisseur et ses indemnités. Des autoattestations de cadre de référence.

Chacune s'effondre dès que la situation devient contradictoire. Les journaux sont modifiables, et tout le monde dans la salle le sait. La SOC 2 certifie la sécurité de vos systèmes, pas l'exactitude d'une sortie qu'ils ont produite. Le contrat protège moins que la plupart des acheteurs ne le supposent : dans l'ensemble de données de contrats de fournisseurs d'IA de TermScout, 88 % plafonnent la responsabilité du fournisseur, souvent à un mois de frais, et seulement 17 % garantissent la conformité réglementaire. Et les certifications attestent des processus et de la paperasse, pas la décision devant l'examinateur.

Le schéma sous-jacent est simple. Les registres tenus par soi-même cessent d'être des preuves précisément quand la preuve est nécessaire.

L'indépendance, c'est le produit.

Le reçu

Cyberian donne un reçu à chaque inférence d'IA. Il lie ensemble le modèle exact qui a tourné, une empreinte de l'entrée, une empreinte de la sortie, qui a exécuté la tâche et qui l'a vérifiée, scellé de sorte que modifier quoi que ce soit brise le reçu. La partie qui vérifie n'est jamais la partie qui a exécuté la tâche, et n'importe quel tiers peut vérifier le reçu plus tard sans refaire le travail.

Voyez-le comme un enregistreur de vol pour les décisions d'IA. Il ne rend pas la décision meilleure. Il rend la décision prouvable, à quelqu'un qui n'a aucune raison de vous faire confiance.

C'est en production aujourd'hui. Les tâches s'exécutent sur des fournisseurs de calcul indépendants, les clients peuvent apporter leurs propres modèles, et chaque résultat revient avec son reçu.

Avec quelle force pouvez-vous prouver que le calcul a été fait correctement ?

Prouver ce qui a tourné est le point de départ, et c'est en service sur chaque tâche. La question plus difficile est de savoir avec quelle force vous pouvez prouver que le calcul a été fait correctement. Nous y pensons comme à une échelle, où chaque échelon achète plus de certitude par unité de coût.

Le premier échelon est le rejeu probabiliste, en service aujourd'hui. Un prouveur indépendant réexécute secrètement un échantillon du travail et compare les résultats. Toute tâche isolée a 20 % de chances d'être vérifiée, pour environ 20 % de surcoût de calcul. Cela paraît modeste jusqu'à ce qu'on considère la répétition : un fournisseur qui triche systématiquement fait face à une détection quasi certaine, si bien que tricher devient un pari perdant.

Le deuxième échelon est celui que nous venons d'ajouter, et il fait l'objet de notre deuxième demande de brevet provisoire américain (24 revendications, juillet 2026) et d'un article d'accompagnement : les traces de calcul engagées. L'idée est sceller d'abord, répondre ensuite. L'exécutant réalise la tâche et enregistre la sortie de chaque couche interne du réseau, puis scelle la trace complète avant qu'aucune question ne soit posée. Ce n'est qu'après le scellement qu'un défi à clé secrète choisit une poignée de maillons de la chaîne, disons 5 sur 24, et chaque maillon choisi est vérifié directement : la sortie de cette couche découle-t-elle vraiment de la précédente ? Rien n'est réexécuté.

Pourquoi quelques maillons suffisent-ils ? À cause d'une cascade. La sortie de chaque couche alimente la suivante, de sorte qu'une seule couche falsifiée viole toutes les contraintes qui la suivent. Le mensonge ne peut pas être contenu, et tout maillon ouvert en aval l'expose. La forme close donne un taux de détection de 86,8 % pour un modèle à 24 couches avec seulement 5 maillons ouverts, une amélioration de 4,34x par rapport au rejeu, pour un surcoût de 5 à 10 % sur l'exécutant. Une variante côté prouveur de la même idée enrichit le palier de rejeu actuel d'une trace de référence auditable, ajoutant de la profondeur médico-légale à chaque reçu.

L'échelon supérieur est une preuve mathématique complète d'exactitude. Les preuves à divulgation nulle de connaissance font déjà le travail pour l'apprentissage automatique statistique et les modèles plus petits, et c'est la destination vers laquelle nous bâtissons pour le travail le plus sensible : une preuve que ce modèle a produit cette sortie, vérifiable en quelques instants, sans révéler le modèle ni les données.

La question s'inscrit dans les examens et les appels d'offres

Rien de tout cela n'est une prévision. C'est daté et vérifiable.

En mars 2026, un tribunal fédéral a ordonné à UnitedHealth de remettre les dossiers de ses refus de réclamations pilotés par l'IA dans l'affaire Estate of Lokken v. UnitedHealth. Le même mois, les examinateurs en assurance de 12 États ont commencé à piloter l'outil d'évaluation des systèmes d'IA de la NAIC, un questionnaire structuré sondant la façon dont les assureurs gouvernent leurs modèles. En février, les directives de COSO sur le contrôle interne de l'IA générative ont posé l'attente que les organisations conservent des dossiers suffisants pour reconstruire quelle version de modèle a agi, et sur quoi. En avril, les régulateurs bancaires américains ont remplacé les directives de risque de modèle SR 11-7, vieilles de quinze ans, par la SR 26-2, en excluant explicitement l'IA générative de sa portée, un vide d'assurance situé exactement là où le risque croît le plus vite. Et au Canada, la ligne directrice E-23 du BSIF entre en vigueur en mai 2027, couvrant les modèles d'IA dans toutes les institutions financières sous réglementation fédérale.

La direction est constante. Prouvez ce que votre IA a fait passe d'un atout souhaitable au langage des examens et aux questionnaires d'appels d'offres, un document daté à la fois.

Le moment le plus économique pour ajouter la vérification

Si vous vendez de l'IA à l'assurance, à la santé, au juridique ou aux services financiers, la question vient vers vous selon le calendrier de quelqu'un d'autre. Le moment le plus économique pour ajouter la vérification est avant que l'examinateur ne le demande, pendant que vous pouvez la concevoir dès le départ plutôt que la reconstruire sous le coup de la divulgation de preuve.

Le reçu est en service. Vous pouvez l'essayer dès aujourd'hui à cyberiansystems.ai, exécuter un lot sur votre propre infrastructure ou la nôtre, et tenir le résultat dans votre main : la preuve de ce que votre IA a exactement fait, émanant d'une partie qui n'a aucun intérêt dans la réponse.


PL
Philippe Laporte
Fondateur et chef de la direction de Cyberian Systems, qui construit l'infrastructure d'inférence IA vérifiée pour les secteurs réglementés.

Essayer la démo en direct · Suivre sur LinkedIn · RSS