Le laboratoire français Mistral AI a dévoilé mardi Mistral Large 4, un modèle multimodal à 1000 milliards de paramètres qu'il présente comme une réponse européenne aux modèles américains fermés et aux rivaux chinois à poids ouverts. TechCrunch a rapporté le lancement, citant Pierre Stock, vice-président chargé de la science chez Mistral. Le modèle est surnommé Le Chonk, un clin d'œil à sa taille.
Cette sortie compte parce qu'elle teste si un acteur européen plus petit peut encore rivaliser à la frontière du secteur. Mistral affirme que ML4 a été entraîné entièrement sur sa propre infrastructure avec 4000 GPU Nvidia, soit deux à trois fois moins que ses concurrents chinois et bien moins que les laboratoires à code fermé. Pour l'instant, l'accès passe par un point d'accès public protégé.
Fiche technique du Mistral Large 4 et surnom Le Chonk
Mistral Large 4 n'est pas encore un modèle à poids ouverts. Ses poids doivent être publiés dans environ trois semaines, une fois les tests de sécurité terminés. D'ici là, les utilisateurs n'y accèdent que via un point d'accès protégé, et Mistral indique qu'elle travaillera avec des partenaires de confiance et des gouvernements pour garantir que les poids ouverts servent à la défense, et non à des attaques malveillantes.
Le surnom Le Chonk fait référence au billion de paramètres du modèle. Mistral présente ML4 comme une troisième voie en IA, une expression utilisée par le président français Macron, entre les modèles fermés que l'on peut débrancher et les modèles ouverts souvent fabriqués en Chine. Les résultats des tests de référence ne sont pas encore disponibles.
Pierre Stock a déclaré à TechCrunch que l'entreprise espère que ML4 sera le meilleur de sa catégorie parmi les modèles à poids ouverts, en particulier hors de Chine, mais pas seulement. Grâce à un entraînement ciblé, il pourrait aussi surpasser des modèles fermés dans des domaines précis qui comptent pour les clients entreprises et institutions de Mistral.
