Le paradoxe de la censure : pourquoi les réseaux neuronaux ont été interdits de générer le corps humain nu

Pourquoi les réseaux de neurones génératifs sont-ils interdits de reproduire des corps humains nus alors qu'on peut les voir tranquillement dans les musées, les espaces privés et les matériels éducatifs ? Cette question, soulevée sur Habr, ouvre un profond paradoxe philosophique sur qui établit les règles pour les systèmes d'intelligence artificielle et pourquoi.

Le Paradoxe de la Censure

À première vue, la réponse est simple : la censure. Mais c'est plus profond. Le corps humain nu est l'un des thèmes les plus classiques de l'histoire de l'art.

Il est représenté dans les musées du monde entier, accroché dans les chambres à coucher privées et utilisé à des fins éducatives en médecine et en anatomie. Les étudiants en art dessinent des modèles nus depuis plusieurs siècles. Personne ne l'interdit.

Cependant, quand il s'agit de réseaux de neurones génératifs, il y a un tournant abrupt. Des systèmes comme DALL-E, Midjourney et Stable Diffusion ont des restrictions strictes sur la génération d'images de corps humains nus. D'où vient cette croyance que l'IA ne peut pas faire ce que l'art humain fait depuis des millénaires ?

Deux Normes pour un Même Objet

Voici le cœur du paradoxe :

• Sculpture de Michel-Ange dans un musée — art reconnu et chef-d'œuvre
• Un portrait classique de modèle nu dans un contexte artistique — art légitime
• Une image du corps humain dans un atlas médical — science et éducation
• Un corps nu dans un espace privé entre partenaires — personnel et intime
• Image générée par IA d'un corps nu — catégoriquement interdite

Un même objet visuel reçoit des statuts complètement différents selon qui l'a créé et dans quel contexte. Pourquoi un artiste peut, mais un algorithme ne peut pas ?

Les Racines de l'Interdiction

Les développeurs de réseaux de neurones craignent deux choses principales : l'utilisation potentielle pour créer du contenu pornographique deepfake sans consentement et une forte pression sociale des activistes. C'est logique du point de vue commercial — il est plus facile d'interdire complètement que de gérer les nuances. Mais cela crée une hiérarchie étrange de la moralité : un artiste mort peut, une personne vivante peut, mais un algorithme informatique ne peut pas.

Qui Écrit les Règles pour l'IA

Voici un point intéressant : ce n'est pas une loi au sens classique. C'est une décision d'entreprise. OpenAI, Google, Anthropic, Meta — eux-mêmes choisissent ces restrictions en fonction de leurs perceptions du risque et de la réputation. Et ils les choisissent non parce que cela découle logiquement d'une éthique profonde, mais parce qu'ils craignent les scandales, les procès et la réglementation. Il y a des milliers de modèles en libre accès sans ces restrictions. Hugging Face, des solutions open-source locales que n'importe qui peut exécuter sur son ordinateur. Mais les grandes plateformes commerciales ont choisi le chemin du conservatisme maximal. Le résultat ? Les utilisateurs passent simplement à des modèles ouverts.

Éthique ou Marketing

Ce paradoxe démontre quelque chose d'important : les règles pour l'IA sont souvent établies non pas sur la base d'une analyse éthique profonde, mais sur la base de la crainte des scandales et des risques réputationnels. Les entreprises créent l'apparence d'un contrôle moral, bien qu'en réalité il s'agisse de calculs commerciaux. Cela génère-t-il le bien ? Probablement pas. La prévention réelle de l'utilisation indésirable nécessite des approches plus sophistiquées qu'une interdiction totale. Et les tentatives d'imposer une norme ou une autre par le biais de plateformes d'entreprise ne conduisent qu'à la fragmentation et à la perte de contrôle.