Quand un agent pose le geste, ses propres journaux ne sont pas la preuve
La question d'audit a changé de place
Un agent conversationnel qui ne produit que du texte suscite une faible douleur ressentie. La douleur se concentre là où un agent pose un geste dont la conséquence pourra plus tard devoir être défendue : déplacer de l'argent, approuver ou refuser une réclamation, passer une écriture au grand livre, écarter une candidature, clore un incident de sécurité, déposer un document auprès d'un régulateur. Dès qu'un agent s'exécute longuement et avec état tout au long d'une session, la question cesse d'être « qu'a produit le modèle » pour devenir « qu'a réellement fait cet agent, et sur quelle base ». C'est une question d'audit, et elle a un responsable dès l'instant où une obligation existe.
La télémétrie, c'est la parole du système sur lui-même
La réponse habituelle est l'observabilité. Journaliser chaque étape, tracer chaque appel, ajouter un garde-fou qui surveille le comportement. Cela vous dit ce que le système prétend avoir fait. Cela ne permet à personne d'autre de vérifier. Un exécutant qui se porte aussi garant de sa propre sortie corrige sa propre copie d'examen, aussi complets soient les journaux. Un régulateur, un auditeur, un assureur ou un tribunal ne demande pas au système de se décrire lui-même. Ils demandent une preuve qui tient sans faire confiance à la partie qui l'a produite.
Un reçu indépendant, c'est quelque chose qu'un tiers peut vérifier
La solution n'est pas un journal plus strict. C'est de séparer qui exécute l'inférence de qui prouve qu'elle s'est exécutée correctement. Un reçu cryptographique lie le modèle, l'entrée et la sortie de sorte qu'un tiers puisse vérifier le résultat sans faire confiance au fournisseur et sans refaire la tâche. Les reçus cryptographiques avec rejeu probabiliste sont en service aujourd'hui pour les charges de travail de plongement (embedding) et pour tout modèle exportable en ONNX au moyen du téléversement « apportez votre propre ONNX ». Pour les flux de décision génératifs et agentiques, la position honnête est celle du stade de partenaire de conception, et non d'une revendication de production. La direction est la même dans les deux cas : l'approbation humaine cesse d'être la dernière ligne de défense et devient une chose de plus qui peut être vérifiée, plutôt que simplement crue.
Où se concentre la douleur ressentie
La cible est une intersection, pas un trait unique. L'entreprise exploite de l'IA en production là où un agent pose ou recommande directement un geste conséquent, et elle doit une obligation d'exactitude à un régulateur, un auditeur, un client d'entreprise, un assureur ou un tribunal. Le calcul externalisé à lui seul n'est pas une douleur ressentie. L'intersection, oui. Les obligations arrivent selon un calendrier fixe : l'applicabilité générale du règlement européen sur l'IA le 2 août 2026, la ligne directrice E-23 du BSIF pour les institutions canadiennes sous réglementation fédérale en mai 2027, les contrôles SOX sur toute chaîne d'information touchée par l'IA, DORA pour les TIC des entités financières. Chacune crée une question datée et sans responsable : qui peut prouver ce que l'agent a fait. Le moment le plus économique pour y répondre, c'est pendant que l'on conçoit la portée d'action de l'agent, et non après qu'un examinateur l'a demandé.