Quel modèle a décidé : ce que les superviseurs d'Amérique latine peuvent déjà exiger
Un consommateur choisit douze versements sans intérêt à la caisse et une approbation est évaluée en temps réel. Un modèle de surveillance signale un compte et quelqu'un doit décider s'il est transmis au régulateur. Un modèle de réclamations trie quels dossiers un humain verra un jour. Un outil d'aide au diagnostic met une suggestion sous les yeux d'un médecin pressé par le temps. Rien de tout cela n'est plus un projet pilote en Amérique latine ; c'est la voie de production, et chacune de ces décisions atterrit sur une personne qui peut la contester.
L'obligation n'a pas attendu une loi sur l'IA
L'hypothèse courante est que l'heure des comptes arrive quand une loi sur l'IA est adoptée. Ce n'est pas le cas.
La LGPD du Brésil porte l'article 20 depuis 2020 : une personne peut demander la révision d'une décision prise uniquement sur la base d'un traitement automatisé qui touche ses intérêts, et le texte nomme explicitement le profilage de crédit. Le responsable du traitement doit fournir une information claire et adéquate sur les critères et les procédures utilisés. L'autorité brésilienne de protection des données est habilitée par l'article 20 à réglementer la prise de décision automatisée, a publié une note technique à ce sujet, et l'inscrit à son programme réglementaire 2025-2026, avec des sanctions atteignant deux pour cent du chiffre d'affaires brésilien, plafonnées à cinquante millions de réaux par infraction.
La résolution CMN 4557 régit le risque opérationnel depuis 2017, et un modèle qui échoue à l'intérieur d'un processus réglementé est une défaillance opérationnelle avant d'être quoi que ce soit de plus nouveau. En Argentine, la banque centrale supervise l'IA en grande partie au moyen des cadres qu'elle possède déjà — prudentiel, opérationnel, cybersécurité et impartition — tandis que l'IA générative est déjà l'approche la plus courante rapportée par les institutions sondées.
La loi propre à l'IA arrive de toute façon, avec le projet de loi 2338 du Brésil adopté au Sénat en décembre 2024 et maintenant à la Chambre des députés, portant des obligations de documenter, d'évaluer et de surveiller les usages à fort impact et d'expliquer le comportement du système aux régulateurs et aux personnes touchées, et le projet de loi du Chili en commission, avec une supervision liée à sa future autorité de protection des données.
Personne n'a à attendre quoi que ce soit de tout cela pour se faire poser la question.
La clause qui rend cela vraiment difficile
Lisez l'article 20 jusqu'au bout et il demande quelque chose de plus exigeant qu'il n'y paraît d'abord : une information claire et adéquate sur les critères et les procédures utilisés pour la décision automatisée, dans le respect des secrets commerciaux et industriels.
Deux obligations qui tirent en sens opposés dans une seule phrase. Expliquez la décision, et n'ouvrez pas le modèle. La plupart des réponses disponibles échouent d'un côté ou de l'autre. Remettez les poids et l'architecture et vous avez abandonné le secret commercial. Remettez un résumé et vous avez fourni une assurance, pas une explication.
La preuve autoattestée échoue précisément quand on en a besoin
Demandez aujourd'hui à une équipe ce qu'elle mettrait devant un superviseur et la réponse est une combinaison de journaux applicatifs, d'une capture d'écran de l'écran de décision, d'une fiche de modèle et d'une lettre du fournisseur. Chacun est utile et chacun a le même défaut : c'est l'institution qui se porte garante de son propre dossier.
C'est parfaitement adéquat jusqu'à ce que la partie qui demande soit un superviseur, un auditeur externe, un tribunal ou l'avocat du client, ce qui est précisément le moment où votre propre parole est ce qui est en cause.
Ce que la vérification indépendante doit signifier
Il vaut la peine d'être concret sur qui fait la vérification, parce que le mot vérifiable, à lui seul, a été usé par le marketing et se lit désormais, pour la plupart des gens, comme un synonyme de chiffré.
Cela signifie qu'une partie extérieure précise — le superviseur qui examine un dossier de crédit, l'auditeur externe qui échantillonne les alertes de LBA, une contrepartie, l'avocat de la personne qui a été refusée — peut vérifier l'affirmation elle-même. Non pas en faisant confiance à l'assurance de l'exploitant, ni en se faisant montrer le modèle. La même entrée produit de façon vérifiable la même sortie, et un dossier qui a été altéré échoue à la vérification au lieu de passer discrètement.
Ce qui est réellement en service, nommé honnêtement
Cyberian Systems construit des reçus cryptographiques avec rejeu probabiliste : un reçu cryptographique par inférence vérifiée mathématiquement, ce qui rend une sortie d'inférence vérifiable de façon indépendante, reproductible et inviolable sans exposer les composantes internes du modèle. La séparation entre la partie qui exécute et la partie qui prouve est une propriété de la conception.
Aujourd'hui, cette capacité s'applique aux charges de travail de plongement (embedding), avec les plongements BGE comme produit phare, et aux modèles exportables en ONNX au moyen d'un téléversement « apportez votre propre ONNX ». Elle ne couvre pas les charges de travail génératives ou mixtes, et il n'y a aucune revendication de vérification en direct pour celles-ci aujourd'hui. Si votre exposition est un grand modèle de langage qui rédige des notes de crédit, cela ne règle pas encore votre problème, et cela vaut la peine de le dire clairement plutôt que de laisser un diagramme le sous-entendre.
Une question pour votre propre équipe
Choisissez une décision automatisée qui a atteint un client la semaine dernière : une augmentation de limite refusée, une transaction signalée, une réclamation triée. Demandez ce que vous mettriez devant un superviseur qui veut savoir quel modèle l'a produite. Puis posez la moitié la plus difficile : qui, à part vous, peut confirmer que cette réponse est vraie.
Si la seule réponse à la deuxième question est nous, c'est là l'écart, et il vaut la peine d'en connaître la taille avant que quelqu'un d'autre ne la mesure à votre place.