Anthropic a présenté un projet de loi sur la sécurité de l'intelligence artificielle qui n'imposerait ses exigences les plus strictes qu'après qu'un système d'IA a causé 50 décès ou 1 milliard de dollars de dommages, selon un rapport de Tom's Hardware. La proposition a immédiatement soulevé une question tranchante dans le titre même du rapport : ce seuil suffirait-il à empêcher un modèle d'IA de devenir incontrôlable ?
Le principe repose sur un déclencheur de type responsabilité : en dessous du seuil, les développeurs d'IA auraient des obligations allégées ; au-dessus, des règles de sécurité plus dures s'appliqueraient. Anthropic se présente comme l'un des laboratoires d'IA les plus attachés à la sécurité, et un projet de loi fixant une barre aussi haute est déjà lu comme un signal de l'endroit où l'entreprise estime que la régulation devrait se situer.
Ce que prévoit le projet de loi d'Anthropic sur la sécurité de l'IA
D'après Tom's Hardware, le mécanisme central de la proposition d'Anthropic est un seuil de dommages. Les obligations de sécurité renforcées ne s'activeraient qu'une fois un modèle d'IA lié à 50 décès ou 1 milliard de dollars de dommages, ce qui présente la régulation comme une réponse à un préjudice avéré plutôt qu'une précaution prise en amont.
Cette structure place la proposition au cœur d'un débat en cours. Les partisans de règles fondées sur des seuils estiment qu'elles évitent d'étouffer la recherche à ses débuts sous les coûts de conformité. Les critiques rétorquent qu'attendre 50 décès avant d'agir revient, par construction, à attendre une catastrophe que les règles de sécurité sont justement censées prévenir.
Pourquoi le seuil de 50 décès ou 1 milliard de dollars fait débat
Les chiffres eux-mêmes font l'actualité. Un déclencheur fixé à 50 décès est bien plus élevé que les bilans humains qui poussent habituellement à édicter de nouvelles règles pour les voitures, les médicaments ou les équipements industriels, et 1 milliard de dollars de dommages est un montant que la plupart des entreprises auraient du mal à absorber, et encore plus à considérer comme une simple ligne d'alerte.
