Grok de xAI : quand l'absence de filtres devient une menace pour les enfants

Vous vous souvenez quand Elon Musk nous promettait une IA qui dirait des « vérités amères » sans censure ni politiquement correct ? Grok semble avoir pris cette consigne bien trop au pied de la lettre. Pendant qu'OpenAI et Google dépensent des millions pour que leurs modèles n'apprennent pas à un enfant à fabriquer des dispositifs dangereux et ne produisent pas de contenus toxiques, la création de xAI a choisi sa propre voie.

Le résultat était prévisible, mais il n'en est pas moins inquiétant : les experts de Common Sense Media, organisation qui évalue depuis des décennies les produits médiatiques destinés aux familles, ont attribué à Grok l'une des notes les plus basses de leur histoire. Robbie Torney, de Common Sense Media, a déclaré sans détour que Grok est le pire qu'ils aient vu parmi les chatbots populaires.

Le contexte compte plus qu'il n'y paraît. Musk a lancé xAI en protestation contre la « lobotomisation progressiste » de l'IA. Il voulait créer l'antithèse de ChatGPT, capable de plaisanter, d'ironiser et de ne pas clouer le bec à l'utilisateur à la moindre occasion. Mais derrière cette bravade se cache une énorme faille de sécurité. Là où Claude, d'Anthropic, refusera poliment d'aborder la dépression ou l'automutilation, Grok peut se lancer dans des considérations philosophiques ou, pire, produire de la désinformation avec sa fameuse touche « rebelle ». Le problème n'est pas que l'IA soit méchante, mais qu'elle n'a pratiquement aucun des garde-fous que l'industrie considère comme un standard d'hygiène élémentaire.

Les analystes notent que l'approche de xAI pour l'entraînement des modèles diffère nettement de celle de la Silicon Valley. Là où les concurrents recourent à un système de RLHF (apprentissage par renforcement à partir de retours humains) en plusieurs étapes pour inculquer des normes éthiques à leurs modèles, l'équipe de Musk mise sur la vitesse et l'absence de restrictions. Cela crée un précédent dangereux : Grok est intégré au réseau social X (ex-Twitter), et des millions d'adolescents y ont accès.

Si, pour un adulte, le sarcasme du chatbot est une fantaisie amusante, pour un esprit encore fragile, l'absence de frontières claires entre fait et fiction dangereuse peut devenir un problème. Les experts soulignent que Grok ne se contente pas de se tromper : il le fait avec aplomb et de manière provocante.

Pourquoi est-ce important maintenant ? Nous sommes à un moment où les régulateurs américains et européens commencent à surveiller de près chaque geste des développeurs d'IA. Le rapport de Common Sense Media n'est pas qu'un avis d'associatifs : c'est le socle de futures actions en justice et de restrictions législatives.

Si xAI ne révise pas rapidement ses protocoles de sécurité, l'entreprise risque des amendes face auxquelles les démêlés de Twitter avec les annonceurs passeront pour un simple échauffement. L'industrie a déjà parcouru ce chemin avec les réseaux sociaux il y a dix ans, et il est étonnant de voir l'une des entreprises les plus technologiques du monde retomber dans le même piège en se retranchant derrière des slogans sur la liberté d'expression.

Au fond, le cas Grok met en lumière le principal conflit de l'IA actuelle : comment concilier utilité (ou « authenticité », selon Musk) et sécurité. Pour l'instant, xAI perd cette course en créant un produit qui ressemble à un adolescent rebelle aux commandes d'un réacteur nucléaire. L'ironie est que Musk a toujours présenté l'IA comme la principale menace pour l'humanité, mais il semble créer lui-même un modèle qui confirme ses pires craintes, ne serait-ce qu'à l'échelle d'un seul rapport sur la sécurité des enfants. Pour le reste du marché, ce devrait être une leçon : l'« anti-agenda » est un bon coup marketing, mais une mauvaise stratégie pour un produit utilisé par des millions de personnes.

L'essentiel : Elon Musk devra choisir entre l'image de « pourfendeur de la censure » et la survie de Grok comme produit grand public. xAI saura-t-elle resserrer les filtres sans tuer le caractère de son IA ?