L'IA biologique, arme et bouclier : les scientifiques cherchent l'équilibre

Les chatbots généralistes et les modèles spécialisés en biologie facilitent la conception de toxines, de virus et de pathogènes dangereux. C'est ce que confirment les scientifiques interrogés par la revue Nature. Un constat qui crée l'un des dilemmes les plus sérieux de l'histoire de l'IA : une même technologie peut servir à la défense comme à la fabrication d'armes biologiques.

Pourquoi l'IA menace la biosécurité

Les chercheurs savent depuis longtemps que les informations sur la conception de pathogènes sont, en principe, accessibles dans la littérature scientifique. Mais il fallait auparavant des années de préparation et de solides connaissances en biologie pour en tirer quoi que ce soit de synthétisable. L'IA abaisse radicalement cette barrière à l'entrée : un chatbot peut aider à concevoir un virus synthétique, et un modèle spécialisé peut indiquer quelle toxine serait la plus efficace. Les chercheurs s'inquiètent de voir les outils d'IA transformer en menace pratique ce qui n'était accessible qu'en théorie.

• Les chatbots généralistes (ChatGPT, Claude) ne refusent pas, dans certains cas, de décrire la synthèse de substances dangereuses, si la question est formulée de manière suffisamment astucieuse
• Les modèles biologiques spécialisés, entraînés sur d'énormes volumes de données scientifiques, peuvent accélérer la conception de pathogènes et le calcul de leurs propriétés
• Les outils d'IA réduisent le niveau d'expertise requis : il n'est plus nécessaire d'être professeur de virologie pour entamer un projet dangereux

Les pistes de contrôle avancées par les scientifiques

Les spécialistes interrogés par Nature se répartissent en deux camps principaux, aux visions divergentes. Les premiers demandent de restreindre l'accès aux modèles d'IA eux-mêmes et à leurs données d'entraînement : interdire ou réguler strictement les outils spécialisés de synthèse de protéines, et n'en réserver l'usage qu'à des chercheurs habilités.

Les seconds estiment cette approche fondamentalement inefficace : l'information est déjà publiée dans les revues scientifiques, et des interdictions strictes ne feraient que ralentir la recherche légitime sur les médicaments et les vaccins.

L'approche alternative a reçu le nom de « contrôle de la synthèse ». Plutôt que de réguler les programmes eux-mêmes, elle propose de surveiller et de bloquer la possibilité même de synthétiser des séquences dangereuses. Les laboratoires et les fournisseurs d'ADN synthétique peuvent déployer des systèmes de vérification de toutes les commandes, afin de détecter automatiquement les tentatives de synthèse de pathogènes connus. Le déploiement est plus lent, mais le dispositif est potentiellement plus efficace en pratique.

L'IA peut aussi sauver

Une troisième voix, plus discrète, se fait ici entendre dans le débat. Une partie des chercheurs pointe le profond paradoxe du double usage : l'IA ne crée pas seulement la menace, elle peut aussi aider à la neutraliser. Les mêmes modèles qui accéléreront la conception d'un pathogène dangereux peuvent accélérer la mise au point de vaccins, d'antidotes et de contrepoisons.

Si un pathogène potentiel peut être conçu en quelques jours, alors l'antidote peut — en théorie — être développé rapidement aussi, à condition de mobiliser le même type de système d'IA puissant. Les défenseurs de cette approche proposent d'investir davantage dans le développement d'applications d'IA défensives et de systèmes d'alerte précoce que dans des interdictions strictes.

D'où une question philosophique encore sans réponse : des restrictions strictes sur l'IA biologique ralentiraient à la fois la menace et la défense. Des régulations trop souples, elles, laisseraient la menace émerger plus vite qu'on ne peut la neutraliser.

Ce que cela signifie

Il faudra réguler l'IA biologique avec beaucoup de prudence et de manière combinée, en articulant plusieurs approches à la fois. Un équilibre est nécessaire entre l'accès ouvert, utile à la défense, et les restrictions, utiles à la sécurité. Cet équilibre n'existe pas encore, et la discussion ne fait que monter en intensité.