Glossaire

D’abord une définition courte, ensuite les détails. Les termes renvoient les uns aux autres.

Les bases

Apprentissage par renforcement (RL)
L'apprentissage par renforcement entraîne un modèle en récompensant les bons résultats, comme une réponse correcte ou des tests réussis, au lieu de copier un texte d'exemple.
Fenêtre de contexte
La fenêtre de contexte est la quantité maximale de texte, mesurée en tokens, qu'un modèle peut prendre en compte à la fois, y compris votre prompt et sa propre réponse.
Hugging Face
Hugging Face est le site où sont publiés la plupart des modèles ouverts : chaque modèle y a une page avec ses fichiers, sa licence, sa model card et son nombre de téléchargements.
IA souveraine (Sovereign AI)
L'IA souveraine désigne une IA qu'un pays ou une organisation peut construire, héberger et gouverner sous son propre contrôle, de la puissance de calcul et des données jusqu'au modèle lui-même.
Inférence
L'inférence consiste à exécuter un modèle entraîné pour obtenir une sortie, par exemple répondre à un prompt, par opposition à son entraînement.
Paramètres
Les paramètres sont les nombres à l'intérieur d'un modèle qui sont ajustés pendant l'entraînement ; leur compte, comme 7B ou 70B, est la mesure habituelle de la taille d'un modèle.
Poids ouverts (open weights)
Un modèle à poids ouverts est un modèle d'IA dont les paramètres entraînés, appelés poids, sont publiés afin que chacun puisse le télécharger et l'exécuter, généralement sous une licence qui fixe les conditions d'utilisation.
Token (jeton)
Un token est un petit morceau de texte, souvent un mot ou une partie d'un mot, qu'un modèle de langage lit et écrit ; les modèles mesurent longueur et vitesse en tokens.
Traduction automatique
La traduction automatique est un logiciel qui traduit du texte, de la parole ou du texte présent dans des images d'une langue vers une autre. Les modèles ouverts d'aujourd'hui partent généralement d'un modèle général, ensuite entraîné uniquement à traduire.

Modèles et architecture

Agent d'IA
Un agent d'IA est un système dans lequel un modèle planifie et exécute des tâches en plusieurs étapes en appelant des outils, comme exécuter du code, chercher sur le web ou modifier des fichiers.
Attention efficace (sparse, linéaire et hybride)
Les conceptions d'attention efficace permettent à un modèle de lire des entrées très longues avec bien moins de mémoire et de calcul que l'attention standard, en regardant moins de tokens ou en compressant le passé.
Diarisation des locuteurs (étiquettes de locuteur)
La diarisation détermine qui a parlé et quand dans un enregistrement, et étiquette chaque segment de parole avec un locuteur, comme Locuteur 1 et Locuteur 2.
Distillation
La distillation entraîne un modèle élève plus petit à imiter un modèle professeur plus grand, en conservant une grande partie de ses capacités pour une fraction de sa taille.
Embeddings matriochka
Les embeddings matriochka sont entraînés pour que la première partie du vecteur fonctionne seule, ce qui permet de raccourcir le vecteur pour économiser stockage et temps de recherche.
Encodeur de texte
Dans un générateur d'images ou de vidéos, l'encodeur de texte est un modèle de langage séparé qui transforme votre prompt en nombres exploitables par le générateur. Il ajoute au téléchargement et à l'usage mémoire.
Génération de musique
Les modèles de génération de musique transforment une description en texte, souvent avec des paroles, en audio : chansons complètes avec voix, pistes instrumentales, musique en flux continu ou effets sonores.
Mélange d'experts (MoE)
Un modèle à mélange d'experts contient de nombreux sous-réseaux spécialisés et n'en utilise que quelques-uns pour chaque token, si bien qu'il peut être très grand tout en restant rapide.
Modèle d'embeddings
Un modèle d'embeddings transforme du texte, des images ou d'autres données en une liste de nombres qui capture leur sens, si bien que les éléments semblables se retrouvent proches les uns des autres.
Modèle de base (Base model)
Un modèle de base est le résultat brut du pré-entraînement, avant qu'on ne lui ait appris à suivre des instructions ou à dialoguer ; c'est le point de départ habituel du fine-tuning.
Modèle de décision
Un modèle de décision lit une situation et une liste de questions, puis renvoie une probabilité pour chaque réponse autorisée au lieu de rédiger du texte.
Modèle de diffusion
Un modèle de diffusion génère des images ou des vidéos en partant d'un bruit aléatoire et en retirant le bruit étape par étape jusqu'à ce qu'une image apparaisse.
Modèle de raisonnement
Un modèle de raisonnement travaille un problème étape par étape dans une phase de « réflexion », visible ou cachée, avant de donner sa réponse finale.
Modèle dense
Un modèle dense utilise tous ses paramètres pour traiter chaque token, contrairement à un modèle de mélange d'experts, qui n'en active qu'une partie.
Modèle multimodal
Un modèle multimodal peut traiter plus d'un type de données, comme du texte, des images, de l'audio ou de la vidéo, en entrée, en sortie ou les deux.
Modèle vision-langage (VLM)
Un modèle vision-langage lit les images, et souvent les vidéos, en même temps que du texte ; vous pouvez donc poser des questions sur une photo, une capture d'écran ou une page de document.
OCR et analyse de documents
L'OCR transforme l'image d'un texte en texte ; l'analyse de documents va plus loin et reconstruit tableaux, formules, graphiques et ordre de lecture, généralement en Markdown.
Reconnaissance vocale (ASR, voix vers texte)
La reconnaissance vocale, aussi appelée ASR ou transcription voix-texte, transforme la parole en texte écrit.
Reranker
Un reranker re-note une liste courte de résultats de recherche en lisant la question et chaque résultat ensemble, ce qui est plus lent mais plus précis que les seuls embeddings.
Synthèse vocale (TTS)
Les modèles de synthèse vocale transforment du texte écrit en audio parlé, et beaucoup peuvent copier une voix à partir d'un court échantillon.
Transformer bouclé (looped transformer)
Un transformer bouclé réexécute certaines de ses propres couches plusieurs fois pour chaque token, gagnant ainsi du calcul sans stocker davantage de paramètres.

Matériel et mémoire

Cache KV
Le cache KV est la mémoire qu'utilise un modèle pour se souvenir des tokens précédents d'une conversation, et il grandit avec la longueur du contexte.
Décodage spéculatif et prédiction multi-jetons
Le décodage spéculatif accélère la génération de texte en laissant un brouillon peu coûteux deviner plusieurs jetons d'avance et en faisant vérifier le tout d'un coup par le modèle complet.
Entraînement prenant en compte la quantification (QAT)
L'entraînement prenant en compte la quantification apprend à un modèle à travailler avec des poids basse précision pendant qu'il s'entraîne encore, de sorte qu'il perd moins de qualité en 4 bits qu'un modèle comprimé après coup.
GGUF
GGUF est un format de modèle en fichier unique utilisé par llama.cpp et les outils construits dessus, qui regroupe les poids quantisés avec les informations nécessaires à leur exécution.
Mémoire unifiée
La mémoire unifiée est une conception, utilisée par les puces d'Apple et quelques autres, où le CPU et le GPU partagent une même réserve de mémoire, si bien qu'un grand modèle peut en utiliser la majeure partie.
Poids ternaires (1,58 bits)
Les poids ternaires limitent chaque poids du modèle à l'une des trois valeurs -1, 0 ou +1, si bien qu'un modèle a besoin de moins de 2 bits par poids au lieu de 16.
Précision (BF16, FP8, INT4)
La précision est le nombre de bits utilisés pour stocker chaque nombre dans un modèle, comme le BF16 16 bits, le FP8 8 bits ou l'INT4 4 bits ; moins de bits signifient un modèle plus petit et plus rapide.
Quantification
La quantification stocke les poids d'un modèle avec moins de bits, par exemple 4 au lieu de 16, pour réduire la mémoire et accélérer l'inférence, au prix d'une petite perte de qualité.
VRAM
La VRAM est la mémoire d'une carte graphique ; elle décide quels modèles une GPU peut héberger, car les poids doivent tenir en mémoire pour que le modèle tourne vite.

Licences

IA open source
L'IA open source, au sens de la définition de l'Open Source Initiative, est un système d'IA que vous pouvez utiliser, étudier, modifier et partager librement, avec les poids, le code et des informations détaillées sur les données d'entraînement tous disponibles.
Licence non commerciale
Une licence non commerciale vous permet d'utiliser un modèle pour la recherche, l'étude et les projets personnels, mais pas pour en tirer de l'argent.
Licence permissive
Une licence permissive, comme Apache 2.0 ou MIT, vous laisse utiliser, modifier et vendre un modèle avec très peu de conditions, généralement seulement conserver une mention.
Modèle à accès restreint (gated model)
Un modèle à accès restreint (gated model) est un modèle ouvert dont le téléchargement sur Hugging Face exige d'abord de se connecter et d'accepter ses conditions, ou de demander l'accès.
OpenRAIL (licence d'IA responsable)
OpenRAIL est une famille de licences qui vous laissent utiliser, modifier et partager un modèle, y compris commercialement, mais exigent que chaque copie et dérivé porte une liste d'usages interdits.
Plafond de revenus (revenue cap)
Un plafond de revenus est une condition de licence qui rend un modèle gratuit en dessous d'un certain revenu et exige un accord séparé au-delà.
Restriction territoriale
Une restriction territoriale limite les endroits où une licence est valable : utiliser le modèle dans les pays ou régions exclus n'est pas couvert par la licence.

Utiliser les modèles

Agent d'utilisation de l'ordinateur (Computer-use agent)
Un agent d'utilisation de l'ordinateur regarde des captures d'écran et manipule l'ordinateur comme le ferait une personne : en cliquant, tapant et défilant, et parfois en exécutant des commandes shell ou du code.
API compatible avec OpenAI
Une API compatible avec OpenAI est un serveur qui accepte les mêmes requêtes que l'API d'OpenAI, de sorte que les applications écrites pour elle peuvent utiliser un modèle ouvert à la place.
Appel d'outils (function calling)
L'appel d'outils permet à un modèle de demander à votre programme d'exécuter une fonction, comme une recherche ou une calculatrice, puis d'utiliser le résultat dans sa réponse.
Auto-hébergement (Self-hosting)
L'auto-hébergement consiste à exécuter un modèle sur un matériel que vous contrôlez, comme votre propre PC ou un serveur GPU loué, au lieu d'appeler l'API d'un fournisseur.
Benchmark (test de référence)
Un benchmark est un test standardisé servant à comparer des modèles, comme une série de questions de mathématiques, de code ou de connaissances ; les scores sont utiles mais faciles à surestimer.
Clonage de voix
Le clonage de voix fait parler un modèle de synthèse vocale avec la voix d'une personne précise, souvent à partir de quelques secondes d'enregistrement seulement.
Codage agentique (Agentic coding)
Le codage agentique désigne un modèle qui travaille sur un logiciel comme un développeur : il lit le code, modifie des fichiers, exécute des commandes et des tests, et continue jusqu'à ce que la tâche soit terminée.
Étapes d'échantillonnage
Les étapes d'échantillonnage sont le nombre de passages qu'effectue un modèle de diffusion pour transformer du bruit en image ou en vidéo. Moins d'étapes signifie des résultats plus rapides, avec d'habitude une certaine perte de détail ou de variété.
Fine-tuning (ajustement fin)
Le fine-tuning poursuit l'entraînement d'un modèle pré-entraîné sur vos propres exemples pour qu'il se comporte mieux sur une tâche, un style ou un domaine précis.
Génération augmentée par récupération (RAG)
La génération augmentée par récupération permet à un modèle de répondre à partir de vos propres documents en récupérant les passages pertinents et en les ajoutant au prompt.
Guidage sans classifieur (CFG)
Le guidage sans classifieur, généralement appelé CFG, est un réglage des modèles de diffusion qui contrôle à quel point le résultat suit strictement votre prompt, au prix d'un calcul supplémentaire.
Hallucination
Une hallucination est une affirmation fausse ou inventée qu'un modèle d'IA avance avec assurance.
IA sur l'appareil (on-device)
L'IA sur l'appareil signifie que le modèle s'exécute sur votre propre téléphone, ordinateur portable ou petite carte, plutôt que dans le cloud ; les données restent locales et tout fonctionne hors ligne.
LoRA (adaptation de bas rang)
LoRA, sigle de low-rank adaptation, ajuste un modèle en entraînant un petit ensemble de poids ajoutés au lieu de modifier tous ses paramètres.
Mémoire d'agent (Agent memory)
La mémoire d'agent permet à un agent d'IA de conserver des faits, des préférences et des expériences passées d'une session à l'autre, au lieu de repartir d'un contexte vide.
Métriques de traduction
Les métriques de traduction sont les scores que les fiches de modèles utilisent pour noter une traduction. Les unes comptent le chevauchement avec une référence humaine, les autres utilisent un modèle entraîné ou des relecteurs humains, et leurs échelles ne sont pas comparables.
MTEB (benchmark d'embeddings)
MTEB, le Massive Text Embedding Benchmark, note les modèles d'embeddings sur de nombreuses tâches comme la recherche, la classification et le clustering, et son classement public est un moyen courant de les comparer.
OmniDocBench
OmniDocBench est un benchmark d'analyse de documents : il note la capacité d'un modèle à convertir des pages PDF de nombreux types en texte, tableaux et formules.
Taux d'erreur par mot (WER)
Le taux d'erreur par mot est le score standard de la reconnaissance vocale : la part des mots d'une transcription qui sont faux, manquants ou superflus par rapport à une référence correcte.