Glossaire des termes courants de l'IA : ce que signifient hallucinations, tokens et prompts

TechCrunch a publié un glossaire actualisé des termes de l'intelligence artificielle. Avec l'essor fulgurant de l'IA, des dizaines de nouveaux mots et expressions d'argot sont apparus, qui peuvent dérouter même les utilisateurs aguerris.

Les termes de base de l'IA

Quand on parle d'apprentissage automatique et de réseaux de neurones, des mots comme « entraînement », « paramètres » et « vecteurs » reviennent souvent. Mais certains termes spécifiques apparaissent particulièrement souvent dans le contexte des grands modèles de langage.

• Hallucinations : quand un LLM génère avec assurance de fausses informations et les présente comme des faits. Exemple typique : ChatGPT invente des articles qui n'existent pas ou prête à des personnes des actes qu'elles n'ont pas commis.
• Prompt engineering (ingénierie de prompts) : l'art de formuler des instructions pour l'IA. Un bon prompt peut améliorer la qualité de la réponse de plusieurs fois, un mauvais peut réduire le résultat à néant.
• Fine-tuning (réglage fin) : adaptation d'un modèle préentraîné à des tâches et des données spécifiques. Des entreprises prennent GPT-4 et l'entraînent sur leurs documents internes.
• Embeddings (représentations vectorielles) : codes numériques par lesquels l'IA encode le sens des mots et des documents. Ils servent de base à la recherche, au clustering et à l'analyse sémantique.
• Token : l'unité minimale de texte (un mot ou une partie de mot) traitée par le modèle. ChatGPT calcule le coût en tokens ; dans le contexte de l'API, un « token » équivaut donc à de l'argent.

Architecture et méthodes

Ces dernières années, un ensemble standard de techniques pour travailler avec les modèles s'est imposé.

Transformer : c'est l'architecture sur laquelle reposent tous les LLM modernes, comme GPT et BERT. Le transformer a permis aux réseaux de neurones de traiter des séquences de données en parallèle, ce qui a révolutionné la vitesse d'entraînement.

RAG (retrieval-augmented generation) : technique dans laquelle le modèle cherche d'abord des documents pertinents dans des sources externes, puis génère une réponse à partir d'eux. Le LLM peut ainsi exploiter des informations à jour sans être réentraîné, et les hallucinations diminuent.

Autre terme clé : RLHF (reinforcement learning from human feedback). C'est grâce au RLHF qu'OpenAI a rendu ChatGPT poli, utile et sûr. Les évaluations humaines aident le modèle à apprendre non seulement à partir de régularités statistiques dans les données, mais aussi à partir des préférences des gens, ce qui modifie le comportement même du modèle.

Pourquoi c'est important

Comprendre les termes de base aide à lire les actualités de l'IA avec esprit critique. Si vous connaissez les « hallucinations », vous comprendrez pourquoi les modèles mentent parfois. En sachant ce que sont les « tokens », vous pourrez optimiser vos dépenses d'API. Savoir que le « prompt engineering » existe devrait vous convaincre de ne pas vous précipiter : bien formuler une question mérite de l'attention.

Le glossaire de TechCrunch ne prétend pas à l'exhaustivité, mais il offre une lingua franca, un langage commun pour parler d'IA aussi bien avec un spécialiste technique qu'avec un journaliste ou un manager.

Ce que cela signifie

Standardiser la terminologie est la première étape vers une discussion rigoureuse sur une technologie. À mesure que l'IA progresse, le langage des professionnels et celui du public doivent converger ; sinon, on aura l'impression qu'ils parlent de choses différentes. Quand tout le monde parle la même langue, il est plus facile de trouver la vérité et d'éviter la panique.

Si vous travaillez avec des outils d'IA ou suivez simplement l'actualité, le glossaire vous fait gagner des heures de recherche de définitions et d'exemples. Au lieu de vous perdre dans de multiples sources, vous disposez d'une seule référence que vous pouvez ouvrir à tout moment.