Les Large Language Models
expliqués sans la hype

Un LLM est un réseau de neurones de type transformer avec des milliards à des trilliers de paramètres, entraîné à prédire le prochain token (en gros, le prochain morceau de mot) à partir de tout ce qui précède. C'est tout l'objectif d'entraînement.

Le résultat surprenant, démontré à de multiples reprises depuis 2020, c'est que pousser cet objectif unique assez loin produit des modèles capables de traduire, écrire du code, résoudre des problèmes mathématiques et suivre des instructions complexes, sans jamais avoir été entraînés explicitement à ces tâches.

Les modèles base sont entraînés purement sur la prédiction du prochain token sur du texte web. Ils complètent des patterns mais ne suivent pas naturellement les instructions.

Les modèles instruct sont des modèles base fine-tunés sur des paires instruction-réponse, souvent avec du reinforcement learning à partir de feedback humain (RLHF). C'est ce que sont la plupart des chatbots grand public.

Les modèles de raisonnement ajoutent une étape d'entraînement chain-of-thought qui leur permet de réfléchir avant de répondre, échangeant la vitesse contre la précision sur les problèmes difficiles. Les modèles multimodaux étendent l'architecture pour lire aussi des images, du son ou de la vidéo en entrée.