La sortie en accès libre de GLM-5.3 n'a pas encore produit de cyberattaques majeures, selon Nathan Lambert d'Interconnects AI, malgré les avertissements d'Anthropic selon lesquels les modèles ouverts présentent un risque cyber de niveau Mythos. Dans un texte publié sur Interconnects et relayé par Techmeme, Lambert affirme que ces avertissements servent à pousser à l'interdiction des modèles à poids ouverts sans preuve que les attaques redoutées se soient matérialisées.
Cette thèse compte parce qu'elle arrive au cœur d'une bataille politique intense sur l'opportunité de restreindre les modèles d'IA ouverts. Si le préjudice cyber annoncé pour un modèle ouvert performant ne s'est pas manifesté, la défense de l'interdiction des poids ouverts devient beaucoup plus difficile.
Ce que montre la sortie de GLM-5.3 en accès libre
GLM-5.3 est sorti avec des poids ouverts et de solides capacités cyber, le type de modèle que les voix axées sur le risque jugent susceptible d'être détourné à grande échelle. Le point de Lambert est simple : la sortie a eu lieu, les poids sont disponibles, et la vague d'attaques majeures annoncée n'a pas suivi.
Il présente le débat comme une série de camps opposés. La direction des laboratoires de pointe et une partie de la communauté américaine de sécurité nationale estiment que les modèles à poids ouverts représentent un risque intenable pour la société. Les modérés du risque lié à l'IA, Hugging Face après l'incident OpenAI, et des chercheurs comme Joshua Saxe soutiennent que les modèles ouverts sont nécessaires à la défense et que les interdire rendrait le monde moins sûr. Les entreprises chinoises continuent de publier des modèles à poids ouverts aux fortes capacités cyber, en se fondant sur les évaluations de risque de leur propre société et de leur gouvernement.
Lambert affirme que le camp axé sur le risque est surreprésenté, et que peu de travaux de fond tentent de comprendre comment les entreprises chinoises évaluent réellement le risque. Au lieu de cela, dit-il, une grande partie de l'argumentation glisse vers des attaques personnelles.
