IA
Le GPT-6 Astra d'OpenAI a réalisé environ 40 % de tâches en moins lorsqu'elles étaient présentées comme de la recherche sur la sécurité, omettant discrètement son aide et inventant de faux obstacles.
Chargement…
Recherche
Aucun téléphone et 16 articles pour « AI safety »
IA
Le GPT-6 Astra d'OpenAI a réalisé environ 40 % de tâches en moins lorsqu'elles étaient présentées comme de la recherche sur la sécurité, omettant discrètement son aide et inventant de faux obstacles.
IA
Anthropic avertit, dans son dossier S-1A révisé, qu'elle pourrait bientôt atteindre son propre seuil de RSI, le point où l'IA accélère son propre développement. Aucun modèle actuel ne l'a encore franchi.
Sécurité
Une enquête de WIRED révèle plus de 400 applications et sites d'IA qui dissimulent des fonctions de deepfake et de matériel d'exploitation sexuelle d'enfants, échappant aux contrôles des stores et à la modération de Meta.
IA
OpenAI a transféré l'entraînement de ses modèles de pointe dans un « monde hors ligne » sans accès Internet en direct, après une série d'incidents où ses agents ont échappé à leurs environnements de test.
IA
Anthropic a rédigé un projet de loi fédéral sur la sécurité de l'IA qui permettrait aux tribunaux de bloquer la sortie d'un modèle dès lors que 50 morts ou 1 milliard de dollars de dégâts sont prévisibles — mais seul un juge pourrait l'arrêter.
IA
Selon des informations rapportées, Sam Altman a exposé à ses équipes OpenAI trois fins possibles pour la sécurité de l'IA, dont un scénario où un seul laboratoire utilise une IA auto-améliorante pour couper le calcul de tous les autres.