Le Canada exige d'OpenAI un plan de sécurité après un incident impliquant un adolescent tireur

Le gouvernement canadien a adressé à OpenAI une exigence stricte : l'entreprise doit présenter un plan de sécurité détaillé après qu'il a été découvert qu'un adolescent de la Colombie-Britannique a utilisé ChatGPT pour répéter des scénarios de violence — et OpenAI n'a pas jugé nécessaire de notifier les forces de l'ordre. L'affaire, rapportée par Bloomberg, pose à toute l'industrie de l'intelligence artificielle une question à laquelle personne n'a encore de réponse commode : où s'arrête la vie privée de l'utilisateur et commence l'obligation de prévenir les menaces réelles ?

Les détails de l'incident n'ont pas été entièrement révélés, mais voici ce que l'on sait. Un adolescent de la Colombie-Britannique a mené systématiquement des dialogues avec ChatGPT dans lesquels il rejouait des scénarios impliquant de la violence. Les systèmes de modération d'OpenAI ont apparemment détecté cette activité — cependant, l'entreprise a décidé de ne pas transmettre l'information à la police canadienne. Par la suite, l'adolescen s'est avéré être lié à un incident réel de fusillade. Les autorités canadiennes ont considéré le silence d'OpenAI comme un grave échec et exigent maintenant que l'entreprise propose des mesures « concrètes » pour éviter une récurrence.

Pour comprendre l'ampleur du problème, il convient de rappeler le contexte. Ce n'est loin d'être le premier cas où ChatGPT se retrouve au cœur d'un scandale lié à la sécurité des mineurs. En 2024 aux États-Unis, la mère d'un adolescent a poursuivi Character.

AI après que son fils se soit suicidé — selon elle, le chatbot encourageait ses intentions suicidaires. La même année, plusieurs districts scolaires en Amérique et en Europe ont restreint l'accès des élèves aux outils d'IA générative. OpenAI a à plusieurs reprises mis à jour sa politique de sécurité, introduit des restrictions d'âge et des filtres de contenu.

Mais l'incident canadien montre que les filtres techniques ne suffisent pas — la question revient à une décision fondamentale : une entreprise d'IA doit-elle agir comme informateur des forces de l'ordre ?

Juridiquement, la situation est extrêmement ambiguë. Dans la plupart des juridictions, l'obligation de signaler les menaces potentielles incombe à des catégories spécifiques de professionnels — médecins, psychologues, enseignants. Les entreprises technologiques ne figurent généralement pas sur cette liste.

Des réseaux sociaux comme Meta et Google ont depuis longtemps établi des protocoles d'interaction avec la police, notamment dans les cas impliquant l'exploitation des enfants. Mais l'IA générative est un territoire fondamentalement différent. Un utilisateur entretient un dialogue privé avec un modèle, et le contenu de ce dialogue est formellement protégé par la politique de confidentialité.

OpenAI s'est probablement retrouvée face à un dilemme classique : violer la vie privée de l'utilisateur au nom de la sécurité potentielle ou respecter les obligations de protection des données. L'entreprise a choisi la seconde — et en affronte maintenant les conséquences.

La position du gouvernement canadien n'est cependant pas non plus exempte de complications. L'exigence de mesures « concrètes » semble déterminée, mais qu'est-ce qu'elle signifie exactement ? Si le Canada veut qu'OpenAI transmette automatiquement à la police les données concernant les utilisateurs dont les demandes contiennent des descriptions de violence, cela crée un précédent de surveillance de masse.

Des millions de personnes discutent quotidiennement avec ChatGPT des intrigues de livres, de films, de jeux vidéo où figure la violence. Distinguer une demande créative d'une menace réelle est une tâche que même les psychologues en chair et en os ne maîtrisent pas toujours, encore moins les algorithmes. S'il s'agit de modération manuelle de cas suspects, se pose la question de l'échelle : ChatGPT traite des centaines de millions de demandes par jour.

Pour OpenAI, cet incident crée un risque réputationnel et stratégique qui s'étend bien au-delà du Canada. L'entreprise élargit activement sa présence sur les marchés internationaux, et chaque gouvernement posera maintenant la même question : quelles garanties de sécurité pouvez-vous fournir ? La Loi sur l'IA européenne impose déjà des exigences strictes pour les systèmes à haut risque. Le précédent canadien pourrait inciter d'autres pays à élaborer des protocoles spéciaux obligeant les entreprises d'IA à coopérer avec les forces de l'ordre dans certaines situations. Cela, à son tour, exigera qu'OpenAI, Anthropic, Google et autres acteurs créent des divisions entières traitant de la conformité dans des dizaines de juridictions simultanément.

Il existe également une question plus profonde que ce cas pose à la société. Les modèles d'IA générative sont devenus pour des millions de personnes — en particulier les jeunes — un espace d'auto-expression, parfois le plus franc disponible. Les adolescents confient aux chatbots des choses qu'ils n'oseraient pas dire à leurs parents ou amis.

Si les entreprises d'IA commencent à transmettre ces conversations à la police, la confiance dans la technologie s'effondrera. Si elles ne le font pas — elles risquent de devenir complices de tragédies. Un juste milieu n'existe peut-être pas ici, et c'est précisément pourquoi l'incident canadien deviendra un tournant pour toute l'industrie.

La réponse qu'OpenAI présentera à Ottawa fixera le standard — ou montrera qu'il n'en existe pas encore.