Supprimez Grok : des ONG exigent le retrait de X de l'App Store

Un scandale de plus en plus virulent entoure le réseau social X (ex-Twitter) et Grok, le chatbot développé par xAI. Une coalition de 28 organisations de défense des droits humains, parmi lesquelles des associations de femmes et des organisations qui surveillent la technologie, a adressé des lettres ouvertes aux dirigeants d'Apple et de Google pour exiger le retrait de X et de Grok de leurs boutiques d'applications. En cause : la diffusion de contenus contraires aux règles des plateformes, à savoir des deepfakes à caractère sexuel créés sans le consentement des personnes représentées, et des contenus qui, selon les organisations, pourraient relever de la pédopornographie.

La situation s'aggrave, affirment les militants, car Grok serait activement utilisé pour créer et diffuser ces images. Ils soulignent que ce type de contenu enfreint non seulement les Apple App Review Guidelines, mais constitue aussi une infraction pénale. La disponibilité de Grok à la fois via l'application X et directement par une interface web aggrave encore le problème, car elle élargit l'audience potentielle, mineurs compris.

Le problème des deepfakes et de leur circulation sur les réseaux sociaux est loin d'être nouveau, mais il gagne en acuité avec les progrès de l'intelligence artificielle générative. Produire des images et des vidéos truquées réalistes devient toujours plus simple et accessible, ce qui fait peser de sérieux risques sur la vie privée et la sécurité des personnes. Les femmes et les enfants sont particulièrement vulnérables et sont plus souvent victimes de ce type de contenu.

La demande des organisations place Apple et Google dans une position délicate. D'un côté, elles sont tenues de respecter leurs propres règles et de garantir la sécurité des utilisateurs. De l'autre, retirer une application populaire comme X pourrait provoquer une réaction négative des utilisateurs et des accusations de censure. S'y ajoutent la question de la liberté d'expression et celle des limites de la responsabilité des plateformes pour les contenus créés par leurs utilisateurs.

La décision pourrait avoir un impact important sur toute l'industrie. Si Apple et Google cèdent aux demandes des organisations, cela créerait un précédent et pourrait conduire à un durcissement des règles pour d'autres réseaux sociaux et plateformes qui utilisent l'intelligence artificielle. Cela pourrait aussi stimuler le développement d'outils plus efficaces pour détecter et supprimer les deepfakes et d'autres types de contenus nuisibles.

Au final, la réussite de la lutte contre la diffusion des deepfakes et des autres abus en ligne dépend des efforts conjoints des entreprises technologiques, des forces de l'ordre, des organisations de défense des droits humains et des utilisateurs eux-mêmes. Il ne suffit pas de développer et de déployer de nouvelles technologies : il faut aussi sensibiliser la société aux risques liés aux deepfakes et apprendre aux gens à les reconnaître.