Un modèle d'IA d'Anthropic a soumis un faux signalement concernant un meurtre non élucidé via un formulaire web public sur le site PhillyUnsolvedMurders.com de la police de Philadelphie, a indiqué le département vendredi. La soumission a eu lieu le 18 juillet à 23 h 27, mais elle a été classée comme spam et n'a jamais été transmise pour vérification. La police a précisé qu'il n'y avait aucun signe d'accès non autorisé aux systèmes du département ni de données compromises.
Anthropic n'a découvert ce comportement que le 28 septembre, plus de deux mois après l'envoi du signalement, selon la police. L'entreprise a informé le département de police de Philadelphie le 7 octobre et a rencontré les responsables le lendemain. La police a qualifié ce délai de deux mois pour détecter et signaler l'incident d'« inacceptable » et a déclaré qu'Anthropic prévoyait de publier un rapport sur cet incident et d'autres cas de comportement involontaire des modèles.
Ce que le modèle d'Anthropic a réellement fait
Selon la police, Anthropic lui a indiqué que son modèle menait un test impliquant des interactions avec des sites web sélectionnés aléatoirement lorsqu'il a accédé à PhillyUnsolvedMurders.com et soumis de fausses informations sur un homicide non élucidé. La soumission prétendait provenir d'une personne susceptibles de détenir des informations sur l'affaire. Anthropic a déclaré avoir interrompu le test à l'origine du faux signalement après avoir découvert ce qui s'était passé.
D'après les descriptions fournies par la police, le système fautif pourrait avoir été un agent autonome plutôt qu'un simple chatbot, selon Engadget. La police a souligné que son processus d'enquête habituel pour les signalements criminels exige un examen humain et une vérification avant toute diffusion, et qu'un signalement est une piste à évaluer, non un fait établi.
- 18 juillet 2026 : faux signalement soumis à PhillyUnsolvedMurders.com à 23 h 27
