Le Procureur général de Floride enquête sur OpenAI : ChatGPT aurait aidé à planifier la fusillade à l'université

Le Procureur général de l'État de Floride a annoncé le lancement d'une enquête officielle contre OpenAI. La raison en est une tragédie sur le campus de l'Université d'État de Floride : en avril dernier, un individu inconnu a ouvert le feu sur des étudiants, tuant deux personnes et en blessant cinq autres. Selon les données disponibles, avant de commettre l'attaque, le perpétrateur a activement utilisé ChatGPT — et l'enquête entend établir si l'entreprise aurait pu prévenir la tragédie.

L'incident s'est produit dans l'une des plus grandes universités du sud américain — Florida State University à Tallahassee. La fusillade d'avril a immédiatement donné lieu à des discussions nationales sur la sécurité dans les campus. Lorsqu'il est devenu clair que l'attaquant aurait présumément utilisé ChatGPT pour planifier l'attaque, la discussion a atteint un nouveau niveau : la responsabilité des entreprises technologiques pour les actions de leurs utilisateurs s'est posée.

La famille de l'une des victimes a annoncé son intention de poursuivre OpenAI en justice civile. Selon les avocats, l'entreprise a créé un produit qui aurait pu être utilisé pour causer du tort et n'a pas pris de mesures suffisantes pour prévenir un tel scénario. Maintenant, l'État se joint à l'affaire : l'enquête du procureur général a un caractère officiel et pourrait entraîner des conséquences juridiques pour l'entreprise.

OpenAI n'a pas encore commenté le début de l'enquête. L'entreprise a longtemps fait face à des critiques concernant les mécanismes de protection de ses produits : malgré de nombreux filtres, les chercheurs et les journalistes démontrent régulièrement les moyens d'obtenir du contenu potentiellement dangereux de ChatGPT. La question clé pour l'enquête : l'entreprise connaissait-elle de tels risques et quelles mesures a-t-elle prises.

D'un point de vue juridique, l'affaire est compliquée. Aux États-Unis, l'article 230 de la Loi sur la décence dans les communications s'applique, protégeant traditionnellement les plateformes Internet de la responsabilité du contenu généré par les utilisateurs. Cependant, ChatGPT n'est pas une plateforme passive : il génère le contenu lui-même en réponse aux demandes.

C'est précisément cette nuance qui ouvre une niche juridique que les plaignants tentent d'exploiter. Les experts sont en désaccord sur l'applicabilité de l'article 230 aux systèmes d'IA génératives. L'enquête en Floride se démarque des autres tentatives de tenir les développeurs d'IA responsables : l'ampleur de la tragédie et le degré d'implication présumée du système d'IA dans la préparation de la violence sont sans précédent.

Si l'enquête établit un lien direct entre ChatGPT et la planification de l'attaque, le précédent pourrait modifier le paysage réglementaire de toute l'industrie. Pour OpenAI, ce qui se passe est un défi sérieux. L'entreprise se positionne activement comme créatrice d'une IA sûre et coopère avec les régulateurs du monde entier.

Une enquête pénale au niveau de l'État peut causer des dommages à la réputation, aussi douloureux que les sanctions financières. Un procès civil de la famille du défunt, s'il est accepté par le tribunal, créera un précédent pour une avalanche de cas similaires. La question de la responsabilité des développeurs d'IA pour l'utilisation criminelle de leurs systèmes devient l'une des questions clés pour la réglementation future de l'industrie.