OpenAI va lancer un mode adulte pour ChatGPT : texte uniquement, sans porno

OpenAI se prépare à lancer un « mode adulte » pour ChatGPT, et la première version de la fonction sera considérablement plus limitée que ce que les utilisateurs auraient pu supposer — uniquement des conversations textuelles sur des sujets pour adultes, sans aucun contenu visuel ou vocal. Selon The Wall Street Journal, un représentant anonyme d'OpenAI a caractérisé le contenu futur comme « smut » — c'est-à-dire une littérature frivole et piquante — et a clairement distingué ce concept de la pornographie. En pratique, cela signifie que les utilisateurs adultes vérifiés pourront générer des textes érotiques et mener des dialogues correspondants avec le chatbot, mais la création d'images, de messages vocaux et de vidéos dans ce mode n'est pas encore prévue.

La fonction a été annoncée dès octobre 2024. À l'époque, le PDG d'OpenAI, Sam Altman, a déclaré que l'entreprise avait suffisamment réduit les risques associés aux « graves problèmes de santé mentale » lorsque le modèle interagit avec les utilisateurs, et que l'entreprise peut désormais assouplir certaines des restrictions de sécurité. Parmi les assouplissements prévus, il a mentionné l'érotisme pour les adultes vérifiés.

La restriction sur les images et le contenu multimodal semble délibérée : c'est précisément la génération d'images réalistes qui présente les plus grands risques réglementaires et de réputation. Le texte est légalement et éthiquement plus facile à contrôler — et plus difficile à utiliser pour la production de matériel illégal. La question de savoir où se trace la ligne entre « contenu suggestif » et pornographie reste ouverte et dépend largement de la juridiction, du contexte culturel et du contenu spécifique.

OpenAI devra développer des critères de modération clairs, sinon l'entreprise sera inévitablement confrontée à des débats publics sur ce qui devrait exactement être considéré comme acceptable. Le lancement du mode adulte fait partie de la stratégie plus large d'OpenAI pour monétiser et élargir l'audience de ChatGPT. Le marché du contenu pour adultes sur Internet a historiquement été l'un des plus lucratifs, et les entreprises technologiques cherchent de plus en plus à y accéder sans violer les exigences réglementaires et sans perdre les clients d'entreprise.