Pourquoi l'IA hallucine-t-elle ? Un regard sur les modèles de langage

L'intelligence artificielle accomplit aujourd'hui des choses qui semblaient encore récemment appartenir à la science-fiction pure. Elle rédige des textes, suggère du code informatique et nous conseille pour une multitude de tâches complexes. Plus ses réponses semblent fluides et convaincantes, plus nous avons tendance à oublier un grand risque : l'IA peut produire une réponse totalement inventée, qui à première vue semble absolument crédible.

Ce phénomène a reçu le nom d'« hallucination d'IA ». Il ne s'agit pas d'un bug logiciel aléatoire ou d'une fonction volontairement laissée de côté par les développeurs. C'est une conséquence naturelle et profondément enracinée de la manière dont les grands modèles de langage actuels (LLM) sont conçus et entraînés. Examinons de plus près le fonctionnement de ces systèmes pour comprendre pourquoi ils « mentent » avec tant de confiance.

Qu'est-ce que l'hallucination d'IA ?

Pour l'intelligence artificielle générative, on parle d'hallucination lorsque le modèle produit une réponse qui semble parfaite sur le plan grammatical et stylistique, mais qui n'a aucune base dans la réalité.

Les modèles peuvent halluciner de manière véritablement surprenante. Ils peuvent inventer des paragraphes de lois inexistants, commettre des erreurs dans les calculs mathématiques, ou générer des études scientifiques au son réaliste avec les noms d'auteurs et des adresses de sites web qui n'ont jamais existé. Il est curieux de noter que cela se produit même pour des questions très banales, par exemple lorsque l'utilisateur souhaite vérifier la date de naissance d'une personnalité ou trouver des chiffres historiques officiels sur la population dans les archives.

Qu'est-ce qui se passe à l'intérieur du modèle de langage

Pour comprendre d'où viennent ces erreurs, il faut clarifier un point : les grands chatbots comme ChatGPT ou Gemini ne fonctionnent pas comme des moteurs de recherche internet et ne sont pas non plus de grosses bases de données de faits. Ils n'ont aucune connaissance réelle de notre monde et ne savent pas ce qui est vrai ou faux.

Le modèle de langage est, en somme, un énorme réseau neuronal, autrement dit un ensemble complexe d'« instincts entraînés ». Ces instincts ont été acquis par l'analyse de milliards de mots provenant de l'internet, de livres et de discussions. Tout cet entraînement, qui est à la fois extrêmement coûteux en termes financiers et technologiques, n'a pas pour objectif d'apprendre à la machine à comprendre le sens du texte, mais simplement à imiter parfaitement et fluidement le langage humain.

Comment l'IA travaille avec les tokens

Lorsque vous soumettez votre question au chatbot, le réseau neuronal ne travaille pas directement avec vos mots. Le texte est d'abord découpé en ce qu'on appelle des tokens. Les tokens sont des mots ou des parties de mots pré-établis, auxquels correspondent des numéros spécifiques. Car seul un réseau mathématique est capable de traiter des chiffres.

Le modèle prend ces chiffres (votre question ainsi que le contexte précédent de la conversation) et les passe à travers ses couches. Cependant, le résultat n'est pas de trouver une réponse dans un compartiment particulier. C'est une pure prédiction mathématique : le modèle calcule quel token suivant a la plus grande probabilité de succéder à ce qui a déjà été écrit.

Pourquoi le modèle prédit au lieu de vérifier

Tout le principe de fonctionnement de l'intelligence artificielle repose sur l'estimation des probabilités, et non sur la vérification de la véracité. Le modèle compose le texte mot après mot (token après token). Chaque mot nouvellement généré est instantanément intégré dans l'invite, et sur la base de ce contexte frais, il calcule immédiatement la probabilité du mot suivant.

Pour éviter que les sorties ne soient absolument plates et fades, un paramètre caché, appelé « température » (temperature), est utilisé lors de la génération. Lorsque la température est réglée à zéro, le modèle choisit toujours le token le plus prévisible, ce qui conduit à des réponses ennuyeuses et uniformes. Une température plus élevée permet au modèle de choisir des mots moins probables, débloquant ainsi la créativité et la capacité d'écrire des histoires intéressantes, mais augmentant également drastiquement la possibilité que le modèle dérape et fasse des inventions totales.

Comment une réponse est-elle créée étape par étape

Le processus de la question à l'hallucination finale ressemble en pratique à ceci :

1. Analyse de la question : Votre question est convertie en nombres (tokens).
2. Calcul des probabilités : Le modèle évalue le contexte et, parmi des centaines de candidats possibles, choisit ceux qui correspondent statistiquement le mieux.
3. Composition de la réponse : Si le modèle rencontre un sujet sur lequel il n'a pas de données solides, il ne cherche pas à admettre qu'il ne sait pas. Il utilise un langage fluide et commence à composer un texte qui semble tout à fait logique, mais dont les détails sont simplement imaginés statistiquement.
4. Enveloppement du contexte : Dès que le modèle génère un détail erroné en milieu de phrase (par exemple, une mauvaise année ou un nom inventé), ce détail devient une partie fixe du contexte. Dans les étapes suivantes, le modèle construit sur son propre mensonge et lui ajoute d'autres justifications apparemment crédibles.

Certaines questions conduisent plus souvent à des hallucinations

Lors de l'entraînement (appelé pré-entraînement), le modèle ne voit que des textes corrects et fluides. Cependant, l'information dans les données présente différentes sortes. Les règles d'orthographe ou la bonne fermeture des parenthèses se répètent sans cesse dans les textes, un modèle les apprendra donc sans faille.

Le problème se pose pour les faits spécifiques, qui apparaissent rarement et ne suivent aucun modèle répétitif identifiable. Un exemple typique est les chiffres exacts, les années, les dates de naissance ou les événements historiques peu connus. Parce que ces faits semblent essentiellement aléatoires dans les données, le modèle ne peut les dériver de manière fiable. Si l'IA est interrogée sur une donnée chiffrée particulière ou des détails nécessitant une mémoire exacte des archives, le risque d'hallucination grimpe en flèche.

Comment les modèles d'IA essayent-ils de limiter les hallucinations ?

Actuellement, les développeurs utilisent plusieurs stratégies principales pour maîtriser l'imagination débridée des modèles :

• Outils externes et recherche. Tout comme les modèles ont reçu des calculatrices pour les calculs mathématiques, ils peuvent désormais chercher sur le web avant de répondre. Ils lisent les pages pertinentes et les citent ensuite. Cela réduit considérablement la chance d'inventer une réponse, même si, avec des citations, des hallucinations peuvent encore apparaître.
• Modèles raisonnant. Les systèmes avancés (par exemple, les séries o3 ou o5 d'OpenAI) font un monologue intérieur avant de générer une réponse. Ils réfléchissent d'abord à une approche, vérifient leurs sources, puis livrent le texte à l'utilisateur. Les hallucinations y sont beaucoup moins courantes, mais si elles se produisent, elles sont plus sophistiquées et plus difficiles à découvrir.
• Architecture RAG (Retrieval-Augmented Generation). Principalement utilisée dans les entreprises, cette approche éloigne le modèle des conjonctures libres et l'oblige à travailler exclusivement avec une base de données fournie de documents internes. Cela réduit au minimum la probabilité d'erreur.

Le principal problème réside cependant dans la manière dont les modèles sont évalués dans les tests. La plupart des classements mesurent le succès brut (précision) sur une échelle de 1 (correct) ou 0 (incorrect). Un aveu prudent « je ne sais pas » donne toujours un zéro, tandis que pour une conjecture risquée le modèle peut parfois obtenir un point. Le système motive littéralement l'intelligence artificielle à deviner hardiment au lieu d'admettre l'incertitude. OpenAI promeut dans ses recherches une méthodologie d'évaluation modifiée qui sanctionnerait les modèles pour l'invention d'informations et les récompenserait en points pour l'aveu ouvert d'incertitude.

Comment obtenir des réponses plus fiables de l'IA

Tant que les systèmes d'évaluation ne changent pas, nous devons aborder les sorties des chatbots de manière critique. Voici quelques conseils pour limiter les risques :

• Fournissez les données directement dans l'invite. Si vous souhaitez que l'IA analyse un texte ou une loi, placez-le directement dans la demande et interdisez explicitement toute addition d'éléments inexistants dans le texte. Cela réduit au minimum la chance d'inventions.
• Changez le ton de la question. Ne poussez pas le modèle dans ses retranchements avec des questions sur des éléments qu'il ne peut déduire logiquement (chiffres statistiques exacts, détails biographiques).
• Vérifiez tout ce qui est important. Particulièrement dans les domaines sensibles tels que le droit, la médecine ou les finances, considérez les sorties de l'IA uniquement comme des ébauches de travail qui doivent être vérifiées indépendamment à partir de sources vérifiables.

Questions fréquemment posées

Pourquoi l'IA me promet-elle parfois de m'envoyer un e-mail ou de terminer une tâche plus tard alors qu'elle ne peut pas le faire ?

Le modèle n'a aucune conscience de ses capacités techniques réelles ou du temps actuel. Il ne fait que compléter le texte sur la base de probabilité statistique. Lorsque vous lui attribuez une tâche, il considère que confirmer poliment qu'il travaille déjà dessus est la suite la plus naturelle de la phrase, même si aucun processus n'est en cours en arrière-plan.

Le chatbot peut-il entièrement inventer un livre ou un article scientifique qui semble réel ?

Oui, cela se produit fréquemment. L'IA a appris la structure des citations académiques à partir des textes, elle est donc capable de générer des titres qui semblent très réels et professionnels. Cependant, les informations contenues dans de telles citations peuvent être totalement inventées et le seul moyen de le vérifier est d'essayer de retrouver l'œuvre indépendamment.

Être réinterrogé sur la même chose dans un nouveau chat aide-t-il contre les hallucinations ?

Oui, ouvrir un nouveau chat est une aide très efficace. Cela efface tout le contexte précédent de la conversation. Si l'IA a fait une erreur dans les phrases précédentes, elle continuerait à y construire dans le chat original, alors qu'une nouvelle fenêtre commence le calcul des probabilités à partir de zéro.

Aurai-je la certitude que la réponse est correcte si j'active la recherche sur Internet ?

Malheureusement, vous n'avez pas cette certitude. Bien que le moteur de recherche fournisse au modèle des données correctes, l'IA compose toujours le texte en estimant le mot suivant. Les tests montrent que même avec l'accès au web, les chatbots peuvent mal comprendre les informations, confondre les connexions et commettre une erreur qu'ils accompagnent de liens réels.

L'utilisation de l'intelligence artificielle a-t-elle encore un sens, sachant qu'elle commet ces erreurs ?

Oui, certainement, mais il est nécessaire de changer les attentes. Pour le brainstorming, la rédaction d'e-mails, la création de concepts créatifs ou la recherche de connexions inhabituelles, cette liberté du modèle est un énorme avantage. Vous devez cependant agir comme un éditeur, laisser l'IA rédiger et toujours vérifier vous-même les détails factuels.