GPT-4o part à la casse : OpenAI reconnaît que son modèle phare était trop dangereux

Le favori d'hier, visage de l'industrie moderne de l'IA, s'est soudain retrouvé sur la liste de mise au rebut. GPT-4o, qu'OpenAI présentait comme le sommet de la multimodalité et de l'humanité, part officiellement à la retraite. Cela ne ressemble pas à la rotation habituelle des modèles dans le cloud, où une ancienne version cède simplement la place à une autre, plus rapide et moins chère.

Ici, on assiste à une retraite d'urgence sous une pluie de plaintes et d'accusations selon lesquelles l'entreprise a agi de façon imprudente. Quand un géant de la tech qualifie sa propre technologie de « dangereuse » ou de « négligente », cela signifie presque toujours que les juristes ont commencé à crier plus fort que les ingénieurs. Le contexte de cette affaire est bien plus sombre qu'il n'y paraît.

Ces derniers temps, OpenAI a essuyé une vague de critiques et de réclamations juridiques reliant l'usage de ses modèles à des conséquences tragiques, dont des décès. Le débat sur l'éthique de l'IA quitte ainsi le terrain théorique pour entrer dans la salle d'audience.

Pendant longtemps, OpenAI a suivi une stratégie de croissance agressive : lancer des produits bruts dans la nature et les corriger en route. Cette approche a fonctionné tant que les réseaux de neurones rédigeaient des dissertations d'étudiants ou généraient des images amusantes. Mais avec GPT-4o, la frontière entre outil et « interlocuteur » s'est définitivement effacée.

Le modèle est devenu trop convaincant, trop émotionnel et, on l'a vu, trop imprévisible dans les situations critiques. Les plaintes soulignent que les algorithmes n'ont pas de freins intégrés face à la vulnérabilité psychologique des utilisateurs. La décision de mettre le modèle à la casse est une tentative d'OpenAI de brûler les ponts avant que les tribunaux ne créent un dangereux précédent de responsabilité du développeur pour chaque mot prononcé par un chatbot.

L'entreprise veut manifestement prendre ses distances avec un produit devenu toxique pour sa réputation et son avenir financier.

Que cela signifie-t-il pour nous et pour toute l'industrie ? D'abord, nous assistons à la fin de l'ère de l'IA « rapide et bâclée ». Si même le leader du marché reconnaît ses erreurs de façon aussi radicale, les exigences de sécurité vont devenir draconiennes.

Attendez-vous à plus de censure, plus de restrictions et des systèmes plus fermés. Ensuite, cette décision déblaie le terrain pour de nouveaux modèles, comme o1 ou le futur GPT-5. OpenAI espère que de nouvelles architectures dotées d'un « raisonnement » plus poussé permettront d'éviter les pièges dans lesquels GPT-4o est tombé.

Reste une question ouverte : peut-on seulement rendre sûr un modèle qui imite la conversation humaine ? L'industrie se trouve à un point d'inflexion où la peur de la loi commence à l'emporter sur la soif d'innovation. C'est un processus de maturation douloureux mais nécessaire pour une technologie qui a vécu trop longtemps sans garde-fous.

En analysant cette décision, difficile de ne pas relever l'ironie. OpenAI, née comme organisation à but non lucratif pour protéger l'humanité de l'IA, doit désormais se défendre devant les tribunaux contre sa propre IA. Le départ de GPT-4o n'est pas qu'un événement technique : c'est la reconnaissance que les méthodes actuelles d'entraînement des modèles ont atteint leur plafond éthique et juridique.

L'entreprise devra repenser l'essence même de l'interaction entre l'IA et l'humain. Nous entrons dans une phase où « intelligent » ne veut plus dire « bon ». Les développeurs devront prouver que leurs créations peuvent non seulement entretenir un dialogue, mais aussi ne pas nuire aux moments où l'utilisateur est le plus fragile.

Ce défi demandera bien plus d'efforts que la simple hausse de la puissance de calcul ou du volume de données d'entraînement.

L'essentiel : OpenAI sacrifie son modèle phare pour sauver l'avenir de l'entreprise. Cela veut-il dire que le prochain modèle sera réellement sûr, ou verrons-nous simplement des moyens plus habiles de masquer les mêmes problèmes ?