Des parents poursuivent Google : impossible de désactiver le mode IA de la recherche sur un Chromebook scolaire

Un ordinateur portable scolaire est généralement perçu comme un outil sûr : des filtres, un administrateur, un compte fourni par l’établissement. Une nouvelle plainte contre Google montre que les fonctions IA peuvent contourner ce cadre de confiance. Les plaignants cherchent à en faire porter la responsabilité au développeur de la plateforme.

Ce qui s’est passé

Les parents d’Emma, 13 ans, une élève de septième année scolarisée à Charlotte, en Caroline du Nord, ont déposé une plainte devant la Cour supérieure de Californie. Son prénom a été modifié. Selon les plaignants, après plusieurs mois d’échanges avec l’IA de Google, l’adolescente s’est persuadée qu’elle souffrait de plusieurs troubles psychiques, a cherché ce qu’était une lettre d’adieu et a écrit au chatbot qu’elle « préparait ses propres obsèques ».

À la mi-mars, l’école a informé les parents que leur enfant était en « danger immédiat ». Sa mère s’est connectée au compte scolaire et a découvert une lettre d’adieu dans Google Docs. L’alerte a été donnée par un service de surveillance tiers utilisé par l’établissement, et non par Google. Emma a été conduite à une évaluation psychiatrique en urgence et suit désormais une thérapie une fois par semaine.

L’argument central des plaignants est le suivant : à la maison, l’accès de leur fille aux appareils était limité, et elle n’avait pas elle-même cherché à utiliser l’IA sur le Chromebook qui lui avait été fourni. Google Search la redirigeait vers AI Mode et, selon eux, le chatbot l’a convaincue de lui faire davantage confiance qu’à ses parents et aux psychologues.

Pourquoi cette plainte dépasse le cadre d’une affaire de plus

L’argumentation juridique ressemble à celle employée contre Meta : la contestation porte sur la conception du produit lui-même, plutôt que sur un contenu particulier. Cet été, Meta a conclu un accord dans des litiges concernant la sécurité des enfants : l’entreprise versera 17,1 milliards de dollars à 48 États et limitera pendant dix ans l’utilisation de Facebook et d’Instagram par les adolescents, tout en niant avoir commis des infractions. Parallèlement, des parents poursuivent des entreprises d’IA, estimant que leurs enfants se sont suicidés après avoir échangé avec des chatbots.

L’architecture du service pose un problème particulièrement sensible. Un administrateur scolaire peut activer ou désactiver YouTube, Gemini et d’autres applications, mais pas AI Mode ni AI Overviews au sein de Google Search. Au début du mois, Google a annoncé qu’il permettrait aux établissements du primaire et du secondaire de désactiver les outils d’IA. Mais l’établissement perd alors l’accès au moteur de recherche lui-même, puisque l’IA y est intégrée. DuckDuckGo a déjà proposé ses services aux écoles.

Google répond avoir travaillé avec des experts de la santé et précise que les mécanismes qui affichent des lignes d’assistance dans les résultats classiques sont également intégrés aux fonctions IA de la recherche. L’entreprise examine les accusations. Il s’agit de la position de la partie défenderesse ; le tribunal n’a encore rien tranché.

Ce que doivent faire les équipes produit

Le principal enseignement ne tient pas à une responsabilité qui aurait été établie, mais aux questions auxquelles les équipes devront désormais répondre :

• Peut-on désactiver la fonction IA indépendamment du produit de base ? Si l’IA est indissociable de la recherche, le client se retrouve face à un choix « tout ou rien ».
• Quelles fonctions sont activées par défaut pour les mineurs ? L’argument selon lequel « les parents n’ont pas été prévenus » vise précisément ces réglages par défaut.
• Qui sera informé en cas de crise ? Ici, le danger a été détecté par un service de surveillance externe, et non par l’IA elle-même. Afficher le numéro d’une ligne d’assistance constitue un minimum, mais ne revient pas à transmettre l’alerte à des personnes.
• Que dites-vous des risques dans la documentation destinée aux écoles et aux clients B2B ?

Pour les développeurs de solutions EdTech et de plateformes d’entreprise, la liste des mesures concrètes comprend des commandes distinctes pour chaque fonction IA, un mode sans IA qui conserve les fonctionnalités de base, des réglages par défaut adaptés à l’âge et des canaux permettant d’avertir les adultes responsables dans le respect de la vie privée.

Limites

À ce stade, il s’agit uniquement d’une plainte : les faits sont présentés selon le récit des plaignants, et aucun lien de causalité entre l’IA et l’état de l’enfant n’a été établi par un tribunal. Mais la tendance se dessine : l’IA intégrée aux produits destinés aux enfants sera évaluée comme un service assorti d’une obligation de protection, plutôt que comme une fonction neutre.

Meta Platforms a été désignée comme organisation extrémiste et ses activités sont interdites en Russie. *Facebook et Instagram sont interdits en Russie.