Pour Satya Nadella, patron de Microsoft, tout modèle d'IA doit être traité comme compromis jusqu'à preuve du contraire. Dans un long message publié samedi matin sur X, il a estimé que l'IA avancée ne peut plus être gérée comme « un ensemble de boîtes noires imbriquées » dont les utilisateurs accepteraient ou rejetteraient simplement les réponses et les actions.
Ses propositions, rapportées par The Verge et TechCrunch, incluent la divulgation rapide des incidents, des audits indépendants, des données vérifiables et le confinement. Sa phrase la plus citée va plus loin que la plupart des voix du secteur : « Nous devons présumer qu'un modèle est compromis et le contenir dès le départ. Voyez cela comme un frein d'urgence. »
Ce que Nadella demande aux acteurs de l'IA
Nadella présente son message comme un appel à « prendre du recul et évaluer l'architecture de confiance » de l'IA. Il s'agit de séparer le modèle du dispositif qui orchestre son travail, et d'externaliser les contrôles et les garde-fous au lieu de les enfouir dans le système.
Il veut aussi que chaque action significative d'un modèle soit documentée par des « preuves lisibles par l'humain et infalsifiables », afin de pouvoir vérifier après coup ce qu'il a fait. S'y ajoute la possibilité, pour une personne habilitée, de mettre en pause ou d'arrêter un modèle en pleine tâche, une protection qu'il compare à un frein d'urgence.
- Présumer qu'un modèle est compromis et le contenir dès le départ
- Séparer le modèle du dispositif qui orchestre son travail
- Externaliser les contrôles et les garde-fous
