Anthropic a publié FlashProve, un prototype open source qui utilise la cryptographie pour prouver qu'une réponse d'IA provient réellement du modèle demandé par l'utilisateur, et non d'un modèle substitué en silence par un service de routage ou altéré par un attaquant. L'entreprise a publié ces travaux le 2 novembre, accompagnés du code, de preuves Lean et d'une documentation sous licence Apache 2.0.
Le problème est simple à énoncer : quand on interroge un modèle aujourd'hui, rien dans le texte obtenu ne prouve quel modèle l'a produit. Anthropic estime que la qualité de la sortie ne constitue pas une preuve et que cette lacune compte pour les évaluateurs indépendants, les clients qui achètent un accès via des routeurs tiers et tous ceux qui craignent que les flux de tokens soient modifiés en transit.
FlashProve et la cryptographie zkSNARK expliqués
FlashProve repose sur un type de preuve cryptographique appelé zkSNARK, qu'Anthropic présente comme particulièrement adapté à l'inférence vérifiable en raison de ses propriétés de dissimulation et d'efficacité. Concrètement, le fournisseur du modèle s'engage sur un modèle et joint une preuve courte à chaque réponse ; l'utilisateur vérifie cette preuve rapidement sur un processeur, et la vérification échoue si la réponse ne provient pas du modèle annoncé.
Point essentiel : la preuve ne révèle rien sur les poids du modèle, normalement gardés secrets. Anthropic présente ce travail comme une avancée intermédiaire plutôt qu'un programme de recherche achevé, en indiquant qu'elle partage ces artefacts pour que d'autres puissent les examiner et les améliorer.
Performances et limites de FlashProve
Les chiffres mis en avant par Anthropic proviennent d'un modèle à mélange d'experts de 400 milliards de paramètres, Llama 4 Maverick, exécuté en quantification 4 bits.
La publication s'accompagne aussi d'une section explicite sur les limites et d'un travail de vérification formelle, qu'Anthropic présente comme un pas vers des garanties dignes de confiance, et pas seulement rapides. Le projet évoque des usages en sécurité, en régulation de l'IA et pour vérifier la conformité aux exigences de rythme de développement de l'IA.
