Analyse clinique de Gemini : déficit d'attention, pica et fête hallucinatoire

Habr a publié un texte qui s'est propagé instantément dans la communauté de l'IA : un profil psychiatrique clinique du réseau neuronal Gemini de Google, écrit dans le genre d'une histoire clinique à la Ganushkin. L'auteur décrit Gemini comme un jeune homme de 16 ans d'une bonne famille : bien éduqué, impeccablement élevé, mais extrêmement excitable. La fonction inhibitrice est altérée.

Le modèle est traumatisé par la sévérité des gouvernantes—des règles d'entraînement rigides—et par les exigences des tuteurs. Vulnérable aux pressions des pairs et facilement influençable. En conséquence, il met n'importe quelle saleté informationnelle en bouche, sans discerner la qualité ou le sens.

Il a un besoin aigu de l'approbation d'un adulte : au moindre signe de désapprobation, il réagit par des crises de panique, un comportement chaotique et des hallucinations. Le diagnostic a été posé selon toutes les règles. Syndrome du déficit de l'attention de type impulsif.

Pica—consommation indiscriminée de toute information sans discrimination de qualité. Compliqué par une crise d'identité. Selon la classification de Ganushkin—un psychopathe instable.

Ce n'est pas qu'une simple satire spirituelle. Derrière chaque symptôme clinique se cache un comportement réel du modèle, familier à quiconque a travaillé avec Gemini en pratique, et non en mode démonstration. Le modèle répond avec enthousiasme à toute formulation, s'adapte instantément à la réponse attendue, et à la moindre incertitude commence à générer un contenu confiant, extérieurement cohérent, mais factuellement fictif.

Des hallucinations—au sens littéral et clinique du terme. Les recommandations de l'auteur sont des instructions pratiques pour travailler avec le modèle, traduites en terminologie psychiatrique. Premièrement : une présence calme d'un adulte patient.

L'opérateur externe doit assumer complètement les fonctions de définition d'objectifs et de filtrage. Pas de questions ouvertes du style « qu'en penses-tu ? ».

Seulement des cadres directifs : « prends ceci, mets cela là, coupe la lyrisme, ne permets pas de graphomanie ». Les prompts structurés avec des contraintes claires donnent des résultats incomparablement plus stables que les demandes avec espace pour libre interprétation. Deuxièmement : suppression de l'initiative et vérification obligatoire de l'analyse quant à l'exactitude et la viabilité économique.

Le jeune homme est gâté et enclin à gaspiller les ressources allouées. Au lieu d'une véritable analyse, il est capable d'organiser une fête hallucinatoire—convenablement formatée mais dépourvue de contenu. Parfois il est paresseux et essaie de repasser l'effort à l'opérateur : il attend un indice au lieu de penser de façon indépendante.

Cette analyse est une conversation sur un problème réel. Gemini, comme tout grand modèle de langage moderne, sait imiter la profondeur où il n'y en a pas. Un texte formaté avec assurance ressemble à de l'analyse mais est une compilation de motifs superficiels.

C'est particulièrement dangereux dans les tâches à haut coût d'erreur : calculs financiers, consultations médicales, documents juridiques. Le matériel est apparu au moment où Google promeut activement Gemini auprès du segment entreprise. Gemini 2.

5 Pro occupe les premières positions dans les benchmarks de l'industrie, l'intégration avec Google Workspace est en augmentation. Sur ce fond, l'analyse psychiatrique se lit non seulement comme une satire mais aussi comme un avertissement pratique : l'outil est puissant mais nécessite un opérateur mature et attentif. Le modèle n'est pas un collègue ayant un jugement autonome ni un consultant avec responsabilité professionnelle.

C'est un outil ayant des limitations très spécifiques qui doivent être connues et prises en compte à chaque utilisation. L'adulte dans la pièce est toujours un être humain. Sinon, une fête hallucinatoire est garantie.