Quand l'approbation cesse d'être la dernière ligne de défense
Le réviseur ne peut pas vérifier ce qu'il ne peut pas voir
Les fournisseurs d'IA en Pologne qui vendent aux secteurs réglementés — banque, assurance, administration publique — se heurtent au même mur, mais par un autre côté. On demande à un responsable de la conformité ou à un évaluateur ISO 42001 d'approuver les sorties d'un système d'IA. Il lit une fiche de modèle, un rapport de validation, peut-être un échantillon de prédictions. Puis il signe.
Cette signature porte la confiance depuis des années. Elle ne passe pas à l'échelle, et sous les obligations de tenue de registres et de traçabilité du règlement européen sur l'IA, elle ne résiste de plus en plus à l'examen non plus. Un réviseur qui atteste de l'exactitude sans moyen de vérifier de façon indépendante le calcul sous-jacent porte une responsabilité qu'il ne peut pas réellement décharger.
L'exécutant et le prouveur ne sont pas le même rôle
La solution n'est pas un réviseur plus strict. C'est de séparer qui exécute l'inférence de qui prouve qu'elle s'est exécutée correctement. Un exécutant qui se porte aussi garant de sa propre sortie corrige sa propre copie d'examen. L'architecture de Cyberian tient ces deux rôles à part : le système qui réalise l'inférence n'est jamais le même que celui qui génère la preuve de ce qu'il a fait.
Cette séparation est ce qui rend possible un reçu cryptographique. Le reçu est vérifiable de façon indépendante, reproductible et inviolable, sans exposer les composantes internes du modèle à la partie qui le vérifie. Un cabinet-boutique de GRC polonais qui conseille une banque sur ses obligations au titre du règlement sur l'IA n'a pas besoin de croire la parole d'un fournisseur ni le jugement d'un réviseur. Il peut vérifier le reçu.
Où en sommes-nous aujourd'hui
Les reçus cryptographiques avec rejeu probabiliste sont en service aujourd'hui pour les charges de travail de plongement (embedding), et pour tout modèle exportable en ONNX au moyen du téléversement « apportez votre propre ONNX ». Pour les charges de travail génératives et mixtes, la position honnête est celle du stade de partenaire de conception, et non d'une revendication de production. Dans un cas comme dans l'autre, la direction est la même : l'approbation humaine cesse d'être la dernière ligne de défense et devient une chose de plus qui peut être vérifiée, plutôt que simplement crue.
L'écosystème de conformité de la Pologne — ses pratiques ISO 42001 et ses institutions financières réglementées par la KNF — est un endroit raisonnable où observer ce basculement se produire en premier. Les obligations arrivent selon un calendrier fixe. L'outillage pour y répondre honnêtement n'est pas encore la norme. C'est dans cet écart que les reçus commencent à déplacer les paliers de confiance bâtis entièrement sur qui a révisé quoi, pour les remplacer par quelque chose que quiconque en aval peut vérifier, et non seulement quelque chose que le premier signataire a cru.