Blogue
Notes sur l'inférence IA vérifiée, les secteurs réglementés et l'infrastructure de la confiance.
S'abonner par RSS-
Quand un agent pose le geste, ses propres journaux ne sont pas la preuve
Un agent conversationnel qui ne produit que du texte suscite peu de douleur ressentie. Elle se concentre là où un agent pose un geste conséquent — déplacer de l'argent, refuser une réclamation, déposer un document auprès d'un régulateur. La question cesse alors d'être « qu'a produit le modèle » pour devenir « qu'a réellement fait cet agent, et sur quelle base ». L'observabilité, c'est la parole du système sur lui-même ; un reçu indépendant, c'est quelque chose qu'un tiers peut vérifier.
Lire l'article → -
Vous avez des journaux. Les journaux peuvent être modifiés.
Dans l'affaire Mobley v. Workday, un tribunal a laissé des plaintes pour discrimination viser le fournisseur d'IA lui-même — sur ce que le modèle a réellement fait. Tout fournisseur d'IA dans un secteur réglementé doit désormais prouver quel modèle a tourné, sur quelle entrée, produisant quelle sortie. Les journaux tenus par soi-même, la SOC 2 et les contrats s'effondrent dès que la situation devient contradictoire. La solution : un reçu inviolable, vérifié par une partie qui n'a jamais exécuté la tâche.
Lire l'article → -
La marque de confiance de l'informatique indépendante
Des milliards affluent vers l'informatique d'IA, mais presque rien de cet argent n'achète une garantie sur le travail effectué. Les fournisseurs indépendants sont moins chers, mais les acheteurs sérieux se rabattent sur les acteurs établis parce qu'ils ne peuvent pas vérifier le travail — alors ils achètent la réputation. Un reçu vérifiable, produit par un prouveur distinct de l'exécutant, permet aux indépendants de vendre une preuve plutôt qu'un nom.
Lire l'article → -
Quand l'approbation cesse d'être la dernière ligne de défense
Un responsable de la conformité ou un évaluateur ISO 42001 approuve les sorties d'un système d'IA après avoir lu une fiche de modèle et un échantillon de prédictions. Cette signature porte la confiance depuis des années — mais un réviseur qui atteste de l'exactitude sans pouvoir vérifier le calcul de façon indépendante porte une responsabilité qu'il ne peut pas décharger. Séparer l'exécutant du prouveur transforme l'approbation en quelque chose que tout le monde en aval peut vérifier.
Lire l'article → -
L'exécutant fait tourner le modèle. Le prouveur en répond.
Partout dans le secteur de l'IA réglementée, l'inférence en production tourne sur du cloud infogéré que l'entreprise n'exploite pas — mais l'obligation de conformité reste au titulaire de la licence. Le palier de revue humaine qui comblait cet écart atteste, mais ne reproduit jamais. Un reçu cryptographique produit par un prouveur distinct de l'exécutant, lui, le fait.
Lire l'article → -
L'inférence n'a pas de contrôleur
Kubernetes a compris il y a dix ans qu'un système ne peut pas être cru sur parole quant à son propre état, alors le contrôleur se tient à l'extérieur de l'objet. L'inférence IA ne l'a jamais compris : l'opérateur exécute le modèle, rédige le journal et se porte garant de lui-même. L'exécutant ne peut pas être le prouveur.
Lire l'article → -
Le réviseur et le révisé ne peuvent pas être le même agent
La séparation des tâches — la partie qui fait le travail ne peut pas être la seule à le vérifier — est un pilier de tout cadre de GRC. Quand un agent d'IA agit et qu'une autre IA révise, cette indépendance est cosmétique. Ce que les systèmes agentiques font à l'un des plus vieux contrôles qui soient.
Lire l'article → -
Ce que la norme ISO 42001 exige, et ce qu'elle ne peut pas vous donner
ISO 42001 demande de mesurer, de surveiller et de conserver des registres du comportement de votre IA. Aucune de ces clauses, à elle seule, ne prouve ce que le modèle a fait sur une décision précise — la différence entre un registre et une preuve, et le moment où elle compte.
Lire l'article → -
Calcul moins cher, confiance empruntée
Déplacer l'inférence hors des hyperscalers coûte moins cher, mais le modèle de confiance change. Quand le matériel n'est pas le vôtre, c'est un reçu cryptographique — pas la parole du fournisseur — qui rend le résultat utilisable en contexte réglementé.
Lire l'article → -
Les quatre questions que je pose à chaque fournisseur d'IA avant de signer
Je signe le contrat du fournisseur et c'est moi qui en réponds plus tard. Quatre questions, aucune technique, qui décident si je peux prouver ce qu'un modèle d'IA a fait — ou seulement répéter ce que le fournisseur m'a dit.
Lire l'article → -
Le régulateur est déjà dans la place
Pendant que la majorité de l'industrie de l'IA regarde les échéances du règlement européen glisser vers 2027, les examinateurs en assurance de douze États demandent déjà aux assureurs de rendre compte de leur IA. L'instrument existe, il est utilisé, et votre fournisseur ne peut pas y répondre à votre place.
Lire l'article → -
Je ne suis pas l'ingénieure. Je suis celle qui doit le défendre.
Les personnes qui décident réellement de l'achat d'un outil d'IA me ressemblent davantage qu'à celles qui le présentent. Le point de vue d'une opératrice sur l'écart entre une démo de fournisseur et ce qu'une équipe de conformité peut défendre.
Lire l'article → -
L'UE a cligné des yeux. La trajectoire n'a pas changé.
Un report n'est pas un répit. C'est du temps de plus pour bâtir ce vers quoi convergent toutes les versions de ces règles : prouver quel modèle a pris une décision, sur quelles données, et comment vous le savez.
Lire l'article → -
100 milliards de dollars d'inférence IA reposent sur la confiance aveugle
Chaque modèle d'IA qui tarifie une assurance, détecte une fraude ou prend une décision clinique produit aujourd'hui des résultats qu'aucun tiers ne peut vérifier de manière indépendante. Cette époque touche à sa fin.
Lire l'article →