Committed Computation Traces: Hybrid Verification of Neural Network Inference Between Probabilistic Replay and Zero-Knowledge Proofs
La vérification de l'inférence externalisée offre deux options établies, séparées par un large écart. Réexécuter un échantillon du travail sur du matériel indépendant coûte peu, mais ne détecte une tâche malhonnête qu'aussi souvent qu'elle est échantillonnée. Prouver cryptographiquement chaque étape arithmétique approche la certitude, mais coûte, sur des modèles de taille réelle, un large multiple de l'inférence elle-même.
Cet article propose la Committed Computation Trace Verification (CCTV), qui se situe entre les deux. L'exécutant s'engage sur sa trace de calcul interne au moyen d'engagements fondés sur le hachage avant de savoir ce qui sera contrôlé ; le vérificateur ouvre et réexécute ensuite un sous-ensemble aléatoire de contraintes inter-couches, sélectionné à l'aide d'un secret détenu par le serveur, afin que le choix reste imprévisible. Comme falsifier une couche invalide toutes les contraintes en aval, échantillonner quelques contraintes détecte bien plus que le taux d'échantillonnage ne le laisserait croire.
La probabilité de détection attendue est obtenue sous forme close : 1 - (L-k)/((k+1)L), soit 86,8 pour cent pour un transformeur de 24 couches avec 5 contraintes échantillonnées. Une implémentation sur BAAI/bge-large-en-v1.5 (335 millions de paramètres, 24 couches) a mesuré 86,7 pour cent, avec 100 pour cent de détection des réponses recyclées et des substitutions de modèle, et aucun rejet à tort sur des exécutions honnêtes. L'article énonce une taxonomie explicite des adversaires, y compris le cas que la construction n'améliore pas : un adversaire qui recalcule honnêtement chaque couche en aval ne laisse qu'une seule contrainte violée, et n'est détecté qu'au taux d'échantillonnage ordinaire.