Comprendre l'IA générative et les grands modèles de langage

1.Qu'est-ce que l'IA générative

L'intelligence artificielle existe depuis des décennies. Ce qui a changé récemment, c'est sa capacité à produire du contenu nouveau plutôt qu'à seulement l'analyser.

• L'IA traditionnelle classe, prédit, détecte. Elle répond à des questions fermées : ce mail est-il un spam ? cette transaction est-elle frauduleuse ? quelle est la probabilité que ce client parte ? Elle choisit parmi des réponses existantes.
• L'IA générative crée. À partir d'une consigne, elle génère un texte, une image, un son, une vidéo ou du code qui n'existaient pas auparavant. Elle ne se contente pas de trier le monde : elle en produit une nouvelle version.

Ce basculement repose sur une avancée technique précise. En 2017, une architecture appelée transformer a été introduite dans un article de recherche resté célèbre (« Attention Is All You Need »). Elle a rendu possible l'entraînement de modèles capables de traiter le langage à une échelle inédite. C'est la fondation sur laquelle reposent aujourd'hui la quasi-totalité des systèmes génératifs.

Un point à garder en tête dès le départ : ces systèmes augmentent le travail, ils ne pensent pas à votre place. Ils sont des accélérateurs d'exécution et d'exploration, pas des oracles. Bien comprise, cette limite est une force : elle vous garde aux commandes.

2.Les grands modèles de langage (LLM)

Un grand modèle de langage est un système entraîné sur d'immenses quantités de texte pour prédire la suite la plus plausible d'une séquence de mots. C'est le coeur des assistants conversationnels.

Quelques notions pour s'y retrouver :

• Les paramètres. Ce sont les milliards de valeurs internes ajustées pendant l'entraînement. Grossièrement, plus un modèle a de paramètres, plus il peut capturer de nuances, mais aussi plus il coûte cher à faire tourner. « Grand » et « meilleur » ne sont pas synonymes : un petit modèle bien choisi bat souvent un gros modèle mal employé.
• Les tokens. Le modèle ne lit pas des mots entiers mais des fragments appelés tokens (un mot courant fait souvent un token, un mot rare en fait plusieurs). C'est l'unité de mesure du texte, et c'est en général sur elle qu'est facturé l'usage.
• La fenêtre de contexte. C'est la quantité de texte que le modèle peut garder « sous les yeux » à un instant donné, question et réponse comprises. Au-delà, il oublie le début. Les fenêtres se sont considérablement agrandies, mais elles restent finies.
• Les modèles de fondation (foundation models). Ce sont des modèles massifs, entraînés une fois sur des données très générales, puis réutilisés comme socle pour une multitude d'applications. On ne réentraîne pas un modèle depuis zéro à chaque projet : on part d'un modèle de fondation et on l'adapte.
• La multimodalité. Les modèles récents ne se limitent plus au texte : ils comprennent et produisent aussi des images, du son et de la vidéo. Techniquement, un LLM sert de « cerveau » central, connecté à des encodeurs spécialisés pour chaque modalité (vision, audio). Un même système peut ainsi décrire une photo, lire un document scanné, générer une illustration ou transcrire un enregistrement.

3.Comment ça marche, sous le capot

Nul besoin de mathématiques pour saisir l'essentiel. Trois idées suffisent.

La prédiction du mot suivant

Un LLM ne « comprend » pas au sens humain. Il calcule, mot après mot, quelle est la suite la plus probable compte tenu de tout ce qui précède. Concrètement, à chaque étape, le sommet du réseau produit une probabilité pour chacun des mots possibles du vocabulaire, et le modèle en choisit un, qu'il réinjecte pour continuer. Répétée des milliers de fois, cette opération toute simple produit des textes cohérents, argumentés, parfois brillants. Cela explique aussi pourquoi le modèle peut se tromper avec aplomb : il vise le plausible, pas le vrai.

Le mécanisme d'attention

L'innovation du transformer, c'est l'attention : la capacité du modèle à pondérer, pour chaque mot qu'il génère, l'importance de tous les autres mots de la séquence. Dans le détail, chaque mot est projeté en trois rôles : une requête (ce qu'il cherche), une clé (ce qu'il offre) et une valeur (l'information qu'il porte). En comparant requêtes et clés, le modèle décide à quels mots prêter attention, puis en tire une représentation enrichie par le contexte.

Deux précisions utiles :

• Plusieurs têtes en parallèle. Le modèle ne fait pas ce calcul une seule fois mais via plusieurs « têtes » d'attention simultanées, chacune spécialisée dans un type de relation : la grammaire, le sujet, le style, les renvois d'un mot à un autre.
• Une lecture de gauche à droite. Pour générer, le modèle s'interdit de « voir » les mots qui viennent après celui qu'il écrit. C'est ce qui garantit une production naturelle, mot après mot.

Exemple. Dans « la banque de la rivière », le modèle relie « banque » à « rivière » pour comprendre qu'il s'agit d'une berge et non d'un établissement financier. Le contexte lève l'ambiguïté.

Les embeddings vectoriels

Pour manipuler du sens, le modèle traduit chaque fragment de texte en une liste de nombres appelée vecteur (ou embedding). Des concepts proches se retrouvent proches dans cet espace mathématique : « roi » et « reine » sont voisins, « roi » et « bicyclette » sont éloignés. Cette représentation permet des recherches par le sens et non par les mots exacts. Elle est stockée dans des bases de données vectorielles, une brique essentielle des applications avancées (voir section 5).

Le vocabulaire de base

• Prompt : la consigne que vous donnez en entrée.
• Complétion : la réponse générée par le modèle.
• Inférence : le fait de faire tourner un modèle déjà entraîné pour obtenir une réponse. Vous ne l'entraînez pas quand vous l'utilisez, vous faites de l'inférence.

Les réglages qui pilotent la génération

Sans changer le modèle, quelques réglages (souvent accessibles via les API) ajustent sa façon de choisir chaque mot :

• La température : le degré de hasard. Proche de 0, les réponses sont stables et factuelles ; plus haute, elles sont variées et créatives, mais plus risquées.
• Top-K : ne garder que les K mots les plus probables à chaque étape.
• Top-P : garder le plus petit groupe de mots dont la probabilité cumulée atteint un seuil (par exemple 0,9), puis choisir parmi eux.

4.Les grandes familles de modèles

Tous les modèles ne se valent pas pour un besoin donné. Deux axes aident à choisir.

Généralistes ou spécialisés

• Généralistes. Entraînés sur des données très larges, ils savent un peu tout faire : converser, résumer, coder, analyser. Polyvalents, parfaits pour explorer, prototyper, traiter des demandes variées.
• Spécialisés par tâche. Optimisés pour une fonction précise (traduction, résumé, classification, génération de code). Plus efficaces et souvent moins coûteux sur leur terrain.
• Spécialisés par domaine. Affinés sur un secteur particulier (juridique, médical, financier) pour en maîtriser le vocabulaire et les usages. Sur des tâches de leur domaine, ils dépassent souvent les généralistes, tout en restant soumis aux mêmes limites (hallucinations, biais).

La règle pratique : commencez avec un généraliste pour valider l'idée, spécialisez ensuite si le besoin est récurrent et exige plus de précision.

Propriétaires ou open source

• Propriétaires. Accessibles via une interface ou une API, maintenus par un éditeur. Simples à utiliser, performants, mais boîte noire (on ne connaît pas toujours leur taille ni leurs données) et coût à l'usage. Familles connues à ce jour : les modèles GPT, Claude, Gemini.
• Open source. Modèles dont l'architecture et les « poids » sont librement disponibles, que l'on peut héberger et modifier soi-même. Familles connues : LLaMA, Mistral, Falcon, Gemma. Grande liberté, mais responsabilité accrue : la qualité des données d'entraînement n'est pas toujours transparente, et les outils autour (bibliothèques, bases vectorielles) doivent être tenus à jour pour rester sûrs.

Les études récentes montrent deux tendances : les modèles open source rattrapent les propriétaires sur de nombreux tests, et ils offrent des avantages de transparence et de protection des données, précieux en recherche et dans les environnements régulés. Le choix dépend de trois facteurs : le budget, les compétences techniques disponibles, et la tolérance au risque en matière de confidentialité et de conformité.

5.Adapter un modèle à ses besoins

Un modèle brut est générique. Pour qu'il serve vraiment votre cas, il existe un spectre de techniques, de la plus légère à la plus lourde. Le bon réflexe : toujours commencer par la plus simple.

Le prompt engineering

La méthode la plus rapide et la moins coûteuse : bien formuler sa consigne. On distingue trois degrés selon le nombre d'exemples fournis :

• Zero-shot : on demande directement, sans exemple.
• One-shot : on donne un exemple avant de poser la vraie question.
• Few-shot : on donne plusieurs exemples (souvent trois à cinq) pour montrer le format et le ton attendus, puis on soumet le nouveau cas.

Ce procédé s'appuie sur l'apprentissage en contexte (in-context learning) : le modèle s'adapte à partir des exemples présents dans le prompt, sans être réentraîné. Il ne change ni sa connaissance ni ses biais : il agit seulement sur la façon d'exploiter ce qu'il sait déjà. Pour aller plus loin, voir notre guide dédié au prompt engineering.

Le RAG (génération augmentée par la récupération)

Un modèle ne connaît que ce qu'il a vu à l'entraînement : il ignore vos documents internes et l'actualité récente. Le RAG (retrieval-augmented generation) comble ce manque. Le principe : avant de répondre, le système va chercher les passages pertinents dans une base de documents que vous lui fournissez (vos contrats, vos notes, votre catalogue), puis les injecte dans le prompt pour que la réponse s'appuie dessus.

Concrètement, les documents sont découpés en morceaux (chunks), transformés en vecteurs et stockés dans une base vectorielle. À chaque question, on récupère les morceaux les plus proches par le sens et on les donne au modèle. C'est la technique de référence pour ancrer les réponses sur des données fiables et à jour, et pour réduire les inventions. À noter : le RAG réduit les hallucinations mais ne les supprime pas totalement, car le modèle peut encore mal interpréter les passages récupérés.

Le fine-tuning, et sa version légère (LoRA / PEFT)

Le fine-tuning consiste à réentraîner un modèle de fondation sur un jeu de données propre à votre usage, pour qu'il adopte durablement un style, un format ou une expertise. Plus puissant que le prompt engineering, mais aussi plus coûteux (matériel, compétences) et plus technique. À réserver aux besoins stables et à fort volume. Attention à la sur-spécialisation : un modèle trop affiné sur un domaine peut perdre en polyvalence.

Une avancée a rendu cette étape bien plus accessible : le PEFT (fine-tuning économe en paramètres), dont la méthode la plus connue est LoRA. Au lieu de réentraîner tout le modèle, on fige ses poids d'origine et on injecte de petites matrices d'ajustement dans certaines couches. Résultat : le nombre de paramètres à entraîner et la mémoire nécessaire chutent massivement, pour des performances comparables au fine-tuning complet. C'est idéal quand on veut maintenir plusieurs variantes spécialisées d'un même modèle (par client, par domaine) sans exploser les coûts.

La distillation

La distillation transfère les capacités d'un gros modèle « enseignant » vers un modèle plus petit « élève », entraîné à imiter ses sorties. C'est un levier important pour obtenir des modèles légers, rapides et moins coûteux, tout en conservant une bonne partie de la qualité du grand modèle.

Le RLHF et ses alternatives

L'apprentissage par renforcement à partir de retours humains (reinforcement learning from human feedback) aligne le modèle sur les préférences humaines. Le procédé, en résumé : on entraîne d'abord un « modèle de récompense » qui note la qualité des réponses selon des évaluations humaines, puis on ajuste le modèle pour maximiser cette note. C'est en grande partie ce qui rend les assistants modernes utiles, polis et prudents (refus des contenus dangereux, réduction de la toxicité).

C'est un travail lourd (beaucoup d'annotation humaine), généralement mené par les éditeurs de modèles. Des approches plus récentes cherchent à l'alléger : le RLAIF, qui remplace une partie des retours humains par ceux d'une autre IA, et l'optimisation par préférence directe, qui ajuste le modèle à partir de paires de réponses (préférée / rejetée) sans le mécanisme de renforcement complet.

Comment choisir

Montez en puissance seulement quand c'est nécessaire :

1. 1Un bon prompt suffit à la majorité des cas.
2. 2Ajoutez du RAG dès qu'il faut s'appuyer sur vos propres données ou sur des informations fraîches.
3. 3Passez au fine-tuning léger (LoRA) pour un comportement récurrent et spécifique, sans coût prohibitif.
4. 4Le fine-tuning complet, la distillation et le RLHF relèvent surtout des équipes techniques et des éditeurs de modèles.

6.Des modèles aux applications

Un modèle seul reste une brique. Les usages professionnels naissent quand on l'assemble avec d'autres composants.

Les agents

Un agent est un système qui utilise le modèle comme « cerveau » mais dispose d'une boucle : il planifie, agit (appelle un outil, interroge une base), observe le résultat, puis ajuste. Le motif le plus répandu s'appelle ReAct (raisonner puis agir) : le modèle alterne une étape de raisonnement et une action concrète. Plusieurs agents peuvent collaborer pour accomplir une tâche complexe.

L'orchestration et le chaînage

• L'orchestration organise la circulation de l'information entre les modèles, les agents et les outils : qui fait quoi, dans quel ordre, avec quelles données.
• Le chaînage de prompts découpe une tâche en étapes : plutôt qu'une requête géante, on enchaîne des prompts simples (analyser, planifier, exécuter, synthétiser), la sortie de l'un alimentant l'entrée du suivant. Plus fiable et plus facile à corriger.

Des cadres logiciels dédiés (LangChain, LangGraph, AutoGen, CrewAI, entre autres) fournissent les briques pour construire ces enchaînements, connecter des outils, gérer la mémoire d'une conversation et prévoir des points de contrôle humains. Cette discipline outillée porte un nom : le LLMOps.

Connexion aux outils et aux données

Relié à des applications externes, un modèle ne se contente plus de parler : il agit. Il peut interroger une base de données, appeler une API (CRM, messagerie), lancer un script pour analyser des données, ou confier un calcul précis à un outil dédié plutôt que de le faire de tête (ce qu'il fait mal).

Quelques techniques de production utiles à connaître

• Le cache sémantique : précalculer et stocker les réponses aux questions fréquentes pour répondre plus vite.
• La récupération de contexte : réutiliser l'historique d'une conversation ou d'un client pour des réponses personnalisées.
• La maîtrise de la latence : un petit modèle bien optimisé, proche des données, répond plus vite, un enjeu clé pour les usages en temps réel.
• Les interfaces : une application peut se présenter sous forme d'app web, d'app mobile, d'interface de chat, d'application de bureau ou en ligne de commande.

Trois exemples concrets.

• Assistant documentaire : un RAG sur vos documents internes qui résume des contrats et en extrait les dates et les montants.
• Agent d'automatisation métier : à la demande « synthétise les ventes du trimestre et prépare un mail », il interroge la base, rédige le rapport et prépare l'e-mail via une API.
• Agent de support client : il classe les tickets, suggère des réponses et met à jour la base de connaissances, avec supervision humaine sur les cas sensibles.

C'est à ce niveau que se construisent les vraies infrastructures : non pas un modèle isolé, mais un système où le modèle est une pièce parmi d'autres, au service d'un flux de travail réel.

7.Limites et risques

Utiliser ces systèmes de façon professionnelle, c'est aussi en connaître les angles morts. Les ignorer, c'est s'exposer.

Les hallucinations

Un modèle peut générer, avec assurance, des informations fausses ou inventées : une citation qui n'existe pas, une date erronée, une source imaginaire. On distingue deux origines : les hallucinations induites par un prompt vague ou contradictoire, qui pousse le modèle à spéculer, et les hallucinations intrinsèques, liées aux limites de son entraînement et à sa nature statistique (il ne vérifie pas les faits, il vise le plausible). Les parades : préciser le prompt et demander des citations, ancrer les réponses sur des sources vérifiées (RAG), garder une relecture humaine, ne jamais publier une donnée sensible sans la contrôler.

Les biais

Un modèle apprend sur des données produites par des humains : il en hérite les biais, parfois discriminatoires (genre, origine, religion, opinions). Une génération apparemment neutre peut reproduire des stéréotypes sans intention explicite. Les techniques d'alignement en atténuent une partie, sans les supprimer. Les éditeurs eux-mêmes reconnaissent ces limites et recommandent la prudence dans les domaines sensibles. La vigilance s'impose, surtout pour tout contenu adressé au public.

La confidentialité des données

Ce que vous saisissez peut, selon l'outil et ses conditions, être conservé ou réutilisé. Deux réflexes : lire les conditions d'utilisation du service (les politiques d'OpenAI, d'Anthropic ou de Google précisent la conservation et l'usage des données d'API), et ne jamais confier de données sensibles ou confidentielles à un système dont vous ne maîtrisez pas le traitement. À savoir aussi : certains modèles peuvent, sous des sollicitations ciblées, restituer des passages de leurs données d'entraînement, ce qui alimente les débats sur les fuites et le droit d'auteur.

La sécurité et l'injection de prompt

Une menace propre à ces systèmes : l'injection de prompt. Des instructions malveillantes cachées dans un contenu que le modèle va lire (un document, une page web) peuvent le détourner de ses règles ou lui faire exécuter des actions non voulues. L'OWASP, référence en sécurité applicative, publie d'ailleurs un « Top 10 » des risques spécifiques aux applications LLM. Les bonnes pratiques : séparer clairement les instructions système des contenus fournis par l'utilisateur, filtrer les documents externes avant de les présenter au modèle, limiter les outils qu'un agent peut déclencher, et valider les sorties avant toute action sensible.

8.Cadre juridique et usage responsable

Le droit et les règles se construisent en même temps que la technologie. En connaître l'état, c'est se protéger et rester crédible.

L'AI Act européen

Le Règlement (UE) 2024/1689, dit AI Act, fixe des règles harmonisées pour les systèmes d'IA dans l'Union européenne. Il impose des obligations renforcées aux systèmes jugés « à haut risque » (documentation, gestion des risques, supervision humaine), introduit des exigences de transparence pour les modèles à usage général et de fondation (capacités, limites, usages prévus), et insiste sur la protection des droits fondamentaux : non-discrimination, protection des données, sécurité.

Le droit d'auteur

La question juridique n'est pas tranchée. En septembre 2023, plusieurs auteurs, dont George R.R. Martin, John Grisham et Jonathan Franzen, réunis au sein de l'Authors Guild, ont porté plainte contre OpenAI pour usage non autorisé de leurs oeuvres dans l'entraînement de ses modèles. Où en est-on :

• En octobre 2025, le juge a refusé d'écarter les plaintes visant les sorties du modèle, estimant qu'un jury pourrait juger certains résumés générés « substantiellement similaires » aux oeuvres originales.
• En 2026, la procédure est en phase de découverte, avec des ordonnances imposant la production de journaux de conversations pour mesurer la fréquence de reproduction de contenus.
• La question centrale du fair use (usage équitable) pour l'entraînement reste ouverte.

D'autres actions, portées par des éditeurs de presse, des auteurs et des artistes, posent les mêmes questions à plusieurs entreprises d'IA. La leçon pratique : rester attentif à l'origine des contenus utilisés et générés, tant que le cadre légal se précise.

Les repères de l'usage responsable

Un cadre simple, souvent cité, tient en trois mots :

Auxquels s'ajoutent quelques bonnes pratiques largement partagées : la transparence (signaler les contenus générés), la supervision humaine pour les décisions à fort enjeu (santé, justice, finance), la protection des données (minimisation, gouvernance des flux vers les services externes), et la vigilance sur les impacts (emploi, information, usages manipulatoires).

9.Repères pour se lancer

Quelques principes pour intégrer ces systèmes sans se perdre.

1. 1Partir d'un problème réel, pas de la technologie. La bonne question n'est pas « où mettre de l'IA ? » mais « quel travail concret veut-on accélérer ou fiabiliser ? ». On classe les projets par impact réel et par disponibilité des données.
2. 2Commencer petit. Un cas d'usage bien délimité, testé vite, vaut mieux qu'un grand chantier abstrait. On expérimente, on mesure, on ajuste.
3. 3Choisir la technique la plus légère qui marche. Un bon prompt d'abord, du RAG ensuite, du fine-tuning léger seulement si nécessaire (voir section 5).
4. 4Garder l'humain dans la boucle. Relecture, validation, contrôle des sorties sensibles. Le modèle propose, une personne décide.
5. 5Mesurer et diffuser. Définir des critères de réussite concrets, documenter ce qui marche, partager les bonnes pratiques. C'est ce qui transforme un essai isolé en méthode durable.

Comprendre ces systèmes ne remplace pas l'expérience, mais donne la lucidité nécessaire pour les employer à bon escient : là où ils augmentent réellement le travail, avec les bons garde-fous, et sans jamais leur déléguer le jugement.