Le parquet de Floride enquête sur OpenAI : ChatGPT aurait aidé à planifier une fusillade dans une université

Le procureur général de l'État de Floride a annoncé l'ouverture d'une enquête officielle visant OpenAI. En cause : la tragédie survenue sur le campus de l'Université d'État de Floride. En avril de l'an dernier, un inconnu a ouvert le feu sur des étudiants, tuant deux personnes et en blessant cinq autres. D'après les informations disponibles, l'auteur a beaucoup utilisé ChatGPT avant de passer à l'acte, et les enquêteurs veulent déterminer si l'entreprise aurait pu empêcher le drame.

L'incident s'est produit dans l'une des plus grandes universités du Sud des États-Unis, Florida State University, à Tallahassee. La fusillade d'avril a immédiatement déclenché un débat national sur la sécurité dans les campus. Quand on a appris que l'agresseur aurait utilisé ChatGPT pour planifier l'attaque, le débat a changé d'échelle : la responsabilité des entreprises technologiques pour les actes de leurs utilisateurs était désormais en question.

La famille de l'une des victimes a annoncé son intention de déposer une plainte civile contre OpenAI. Selon ses avocats, l'entreprise a créé un produit susceptible d'être utilisé pour nuire et n'a pas pris de mesures suffisantes pour éviter un tel scénario. L'État rejoint désormais le dossier : l'enquête du procureur général a un caractère officiel et peut entraîner des conséquences juridiques pour l'entreprise.

OpenAI n'a pas encore commenté l'ouverture de l'enquête. L'entreprise est depuis longtemps critiquée pour les garde-fous de ses produits : malgré de nombreux filtres, chercheurs et journalistes montrent régulièrement comment obtenir de ChatGPT des contenus potentiellement dangereux. La question centrale pour les enquêteurs : l'entreprise connaissait-elle ces risques, et qu'a-t-elle fait ?

Sur le plan juridique, le dossier n'est pas simple. Aux États-Unis, la section 230 du Communications Decency Act protège traditionnellement les plateformes en ligne contre toute responsabilité pour les contenus de leurs utilisateurs. Mais ChatGPT n'est pas une plateforme passive : il génère lui-même du contenu en réponse aux requêtes. Cette nuance ouvre une brèche juridique que les plaignants tentent d'exploiter. Les experts sont partagés sur l'applicabilité de la section 230 aux systèmes d'IA générative.

L'enquête de Floride se distingue des autres tentatives de mise en cause des développeurs d'IA : l'ampleur du drame et le degré d'implication supposé du système d'IA dans la préparation de la violence sont sans précédent. Si les enquêteurs établissent un lien direct entre ChatGPT et la planification de l'attaque, ce précédent pourrait modifier le paysage réglementaire de toute l'industrie.

Pour OpenAI, c'est un défi sérieux. L'entreprise se présente activement comme un concepteur d'IA sûre et collabore avec les régulateurs du monde entier. Une enquête pénale au niveau d'un État peut causer un préjudice de réputation aussi douloureux que des sanctions financières. La plainte civile de la famille de la victime, si le tribunal la reçoit, créera un précédent pour une vague d'affaires similaires.

La responsabilité des développeurs d'IA en cas d'usage criminel de leurs systèmes devient l'un des enjeux clés de la future régulation du secteur.