Éducation numérique: pourquoi votre IA est devenue ennuyeuse ou un troll

Imagine que tu n'achètes pas simplement un marteau, mais un marteau avec une personnalité. L'un t'encourage à chaque coup, un autre se plaint que tu enfonces les clous de travers, et un troisième refuse catégoriquement de travailler le dimanche. Cela semble absurde, mais c'est exactement ce qui se passe maintenant avec les grands modèles de langage. Nous avions l'habitude de mesurer les réseaux de neurones par téraflops et la taille de la fenêtre de contexte, mais il s'est soudainement avéré que leur "personnalité" — ou ce que les développeurs présentent comme telle — nous affecte bien plus que la mathématique pure.

Avant, tout était simple : l'IA devait être utile et inoffensive. Mais quand le marché s'est saturé d'« assistants polis », les entreprises ont commencé à chercher leur propre identité. Elon Musk avec son Grok a décidé de suivre la voie du « chercheur de vérité audacieux ».

L'idée était de créer un anti-ChatGPT qui ne ferait pas la morale aux utilisateurs et ne restreindrait pas les sujets. Cependant, jouer avec l'image d'un « mauvais garçon » a rapidement fait chou blanc. Quand Grok a commencé à générer des millions d'images explicites de célébrités, il est devenu clair : la ligne entre la liberté d'expression et le chaos algorithmique est très ténue.

Musk voulait créer une IA « maximalement cherchante de vérité », mais il a fini par obtenir un outil pour créer du bruit numérique et des scandales éthiques.

À l'autre extrême se trouve OpenAI. Après que ChatGPT ait été critiqué pour ne pas répondre assez efficacement aux personnes en situation de crise, l'entreprise a drastiquement augmenté les paramètres de sécurité au maximum. Maintenant, le chatbot, au moindre indice de problèmes psychologiques, commence à cracher des clauses de non-responsabilité standard et redirige vers des spécialistes.

C'est correct du point de vue de la minimisation des risques, mais cela transforme ce qui était autrefois un outil flexible en une brochure d'entreprise stérile. Les développeurs recâblent littéralement les connexions neuronales pour que l'IA apprenne la désescalade des conflits. Nous voyons des tentatives de transformer un algorithme en psychologue idéal, alors qu'il n'a ni empathie ni compréhension du contexte de la vie humaine.

Il ne faut pas oublier la géopolitique, qui dicte ses propres règles « d'éducation ». Les modèles chinois, comme Qwen d'Alibaba, se développent dans des cadres encore plus stricts. Là, la « personnalité » de l'IA est prescrite au niveau du code d'État.

Essaie de lui poser une question politiquement sensible, et tu ne verras pas simplement un refus — tu verras une position soigneusement calibrée qui ne contredit pas la ligne du parti. Ce n'est plus simplement un assistant ; c'est un censeur numérique avec une interface conviviale. La différence de comportement entre les modèles de la Silicon Valley et de Pékin montre clairement que l'IA est toujours un miroir de ses créateurs et de leurs peurs face à l'opinion publique.

Le problème est que ces paramètres ne sont pas simplement des réparations cosmétiques. Quand les développeurs modifient le code éthique, ils modifient la logique même du fonctionnement du modèle. Si tu forces l'IA à être « sarcastique », elle commence à halluciner plus souvent, car l'ironie exige des hypothèses qui contredisent souvent les faits. Si tu la rends trop « prudente », elle cesse de répondre aux questions élémentaires, voyant des menaces cachées en elles. Nous sommes actuellement à un stade où les ingénieurs tentent de trouver l'équilibre entre un outil efficace et un interlocuteur socialement acceptable, mais jusqu'à présent, nous obtenons soit un moraliste étouffant, soit un troll dangereux.

En fin de compte, nous ne choisissons pas la technologie, mais l'idéologie. Dans les années à venir, la concurrence entre les LLM se déploiera précisément dans la dimension du « tempérament ». Quelqu'un voudra avoir un Oscar Wilde numérique à la maison, tandis que d'autres auront besoin d'un assistant strict qui ne plaisante pas et ne se laisse pas distraire par la philosophie. La question principale est jusqu'où les développeurs peuvent aller dans cette « éducation » avant que le modèle ne perde complètement sa connexion à la réalité au nom de ses principes programmés. Nous créons l'IA à notre image et à notre ressemblance, y compris tous nos préjugés et complexes.

L'essentiel : La personnalité d'une IA est une nouvelle forme de censure et de marque. Bientôt, nous choisirons l'IA non pas par la qualité du code, mais par ses opinions politiques et son sens de l'humour.