Apprentissage par renforcement à partir du feed-back humain (Reinforcement Learning from Human Feedback [RLHF]) – combinaison d’apprentissage automatique et d’évaluation humaine : un modèle apprend, grâce aux feedbacks, quelles réponses sont préférées et s’adapte en conséquence. 

Auto-encodeurs variationnels (Variational Autoencoders) – modèles qui traduisent des données complexes telles que des images ou du texte en une représentation compressée et continue. Ils sont particulièrement adaptés à la génération de variations réalistes.

BERT (Bidirectional Encoder Representations from Transformers) – un modèle de langage qui analyse simultanément les textes de gauche à droite et de droite à gauche. Il est particulièrement adapté à des tâches telles que la classification de textes, la reconnaissance d’entités nommées ou les systèmes de questions-réponses.

Cas limites (Edge Cases) – cas spéciaux ou exceptionnels dans lesquels un modèle d’IA réagit de manière inhabituelle ou erronée, par exemple dans des conditions médicales pour lesquelles il n’a pas été suffisamment entraîné.

Cellule de mémoire (Memory Cell) – composant mémoire au sein d’un modèle LSTM. Elle aide à conserver des informations importantes sur des passages de texte plus longs, à l’instar d’une mémoire à court terme.

Conception de protéines (Protein Design) – application de l’IA au développement ciblé de nouvelles protéines présentant des propriétés spécifiques, par exemple en vue du développement de médicaments ou de l’application à des procédés biotechnologiques

Couches à propagation avant – composant essentiel des réseaux neuronaux. Elles traitent les données dans un seul sens, de l’entrée vers la sortie, et contribuent ainsi à la reconnaissance des formes.

Encodeur / décodeur – structure de base de nombreux modèles de langage : l’encodeur analyse le texte d’entrée, le décodeur génère une sortie à partir de celui-ci, p. ex. un résumé ou une réponse.

État caché (Hidden State) – état intermédiaire au sein d’un réseau neuronal qui stocke des informations sur les entrées déjà traitées. Particulièrement pertinent pour les modèles qui fonctionnent avec des textes sous forme séquentielle.

Fonction de perte d’entropie croisée – fonction mathématique qui mesure l’écart entre la prédiction d’un modèle et la cible réelle. Elle est utilisée pour contrôler les processus d’apprentissage.

Intégrations positionnelles (Positional Embeddings) – informations supplémentaires qui indiquent à un modèle de langage l’ordre des mots dans le texte. Elles permettent au modèle de comprendre le contexte au-delà de la structure de la phrase.

Intégration des entrées (Input-Embedding) – représentation numérique de mots ou de caractères qui permet au modèle de traiter les entrées linguistiques. Les mots ayant une signification similaire reçoivent des valeurs similaires.

Mécanisme d’attention – procédé permettant à un modèle de pondérer de manière ciblée, au sein d’un texte, les informations particulièrement pertinentes pour le traitement en cours, par exemple certains mots ou parties de phrases dans le contexte d’une question.

Mécanisme d’autoattention – mécanisme central des modèles de langage modernes. Il évalue quelles parties d’un texte s’influencent mutuellement et assure ainsi une compréhension plus approfondie du texte sur de longues distances.

Mémoire à long terme et à court terme (Long Short-Term Memory [LSTM]) – un type spécial de réseau neuronal qui conserve les informations antérieures plus longtemps, ce qui lui permet de reconnaître les relations pertinentes même dans les textes longs.

Modèle T5 (Transformateur de séquence à séquence - Text-to-Text Transfer Transformer) – un modèle de langage universel qui traite chaque tâche, de la traduction à la classification, comme un problème de texte à texte. Il convertit le texte source en texte cible, ce qui permet des applications flexibles.

Optimisation des politiques proximales (Proximal Policy Optimization [PPO]) – méthode issue de l’apprentissage par renforcement (Reinforcement Learning), dans lequel le modèle apprend de manière stable et efficace par des modifications contrôlées et progressives de sa stratégie ; elle est souvent utilisée en combinaison avec le RLHF.

Optimisation des préférences directes (Direct Preference Optimization [DPO]) – méthode d’entraînement visant à optimiser les modèles directement en fonction des préférences humaines, c’est-à-dire sans passer par les systèmes de récompense classiques.

Problème de disparition du gradient (Vanishing Gradient) – problème lors de l’entraînement des réseaux neuronaux profonds : les couches antérieures reçoivent des signaux d’apprentissage trop faibles, ce qui les empêche de s’adapter correctement. Les architectures modernes telles que les LSTM permettent de résoudre ce problème.

Repliement des protéines (Protein Folding) – prédiction de la structure tridimensionnelle d’une protéine à partir de sa séquence d’acides aminés. Les modèles d’IA tels qu’AlphaFold ont automatisé cette tâche complexe avec une grande précision.

Réseaux antagonistes génératifs (Generative Adversarial Networks [GANs]) – deux modèles d’IA en compétition : l’un génère des données synthétiques (p. ex. des images), l’autre vérifie si celles-ci sont réelles ou artificielles. L’objectif est d’améliorer en permanence la qualité des contenus générés.

Réseaux neuronaux récurrents (Recurrent Neural Networks [RNNs]) – réseaux qui réutilisent les informations des étapes précédentes. Ils sont destinés aux données textuelles ou chronologiques, mais souffrent souvent d’un stockage à long terme limité.

Rétropropagation – procédé permettant à un réseau neuronal d’apprendre à partir d’erreurs : l’écart par rapport à la valeur cible est recalculé couche par couche afin d’améliorer progressivement la pondération dans le modèle.

Traitement du langage naturel (Natural Language Processing) – domaine de l’informatique qui s’occupe du traitement et de l’analyse automatisés du langage humain, par exemple pour la classification de textes, la traduction ou la reconnaissance du langage.

Transformeur génératif pré-entraîné (Generative Pre-trained Transformer [GPT]) – un grand modèle de langage qui a été « pré-entraîné » par la lecture non supervisée de grandes quantités de texte. Il peut générer, compléter ou structurer des textes, selon le prompt.