Sebastian Raschka, formateur en intelligence artificielle et ingénieur de recherche sur les grands modèles de langage, a publié un cours vidéo complet consacré à la construction de modèles de raisonnement de zéro. Le cours comprend huit vidéos de code et plus de 11 heures de contenu, entièrement réalisées en Python et PyTorch, selon son magazine Ahead of AI.
Le cours part d'un LLM pré-entraîné et détaille les méthodes pour l'évaluer et l'améliorer, en couvrant l'évaluation, le scaling à l'inférence, l'apprentissage par renforcement et la distillation. Raschka le présente comme la suite de son cours précédent Coding LLMs from the Ground Up, sans exiger toutefois de l'avoir suivi au préalable.
Le contenu du cours sur les modèles de raisonnement
Raschka a beaucoup écrit sur les modèles de raisonnement ces deux dernières années. Dans son annonce, il souligne que presque tous les LLM actuels sont soit des modèles de raisonnement, soit proposent un mode de raisonnement, ce qui rend le sujet plus pertinent que jamais.
La nouvelle série de vidéos accompagne son guide écrit Build Reasoning Model (From Scratch), qui implémente les techniques clés de zéro en PyTorch. Raschka affirme que cette approche pratique reste la meilleure façon de comprendre le fonctionnement réel des modèles de raisonnement.
- 8 vidéos de code, plus de 11 heures de contenu
- Évaluation des LLM pré-entraînés
- Techniques de scaling à l'inférence
- Apprentissage par renforcement pour le raisonnement
