SafeWorld sort du mode furtif avec 12,2 millions de dollars pour une plateforme de test de sécurité robotique

SafeWorld sort du mode furtif avec 12,2 millions de dollars de financement seed. La startup a développé une plateforme de test de sécurité par simulation pour les robots dotés d'IA, avant leur déploiement en conditions réelles. L'entreprise est basée à Oakland, en Californie.

Fondateurs et vision

Kyle Wong (CEO) et Ding Zhao (co-fondateur, directeur du Safe AI Lab à Carnegie Mellon University) ont créé l'entreprise après avoir constaté que l'arrivée de l'IA avait changé la donne en robotique. « Nous utilisons des robots depuis environ 100 ans, explique Zhao, mais avec l'arrivée de l'IA, l'automatisation a atteint un nouveau niveau. Pour la première fois, les robots ont pu sortir de leur cage et travailler dans le même espace que les humains. »

Wong souligne l'importance capitale de tester correctement ces systèmes : « Si vous voulez des robots plus capables, il vous faut aussi des méthodes plus performantes pour les tester et les valider. Sinon, vous ne pourrez pas déployer ces robots. »

Financement et marché

Le tour de table a été mené par Shine Capital et a16z Speedrun. Ont également participé :

• Box Group
• Carnegie Mellon University Endowment
• Innovation Endeavors
• SV Angel
• d'autres investisseurs en capital-risque et business angels de premier plan

SafeWorld a déjà séduit des clients dans plusieurs secteurs : l'industrie, la fabrication, la logistique, la construction et les applications domestiques.

Comment fonctionne la plateforme

SafeWorld offre un moyen scalable de tester le comportement des robots à proximité d'humains dans des situations rares, dangereuses et inattendues, sans risque pour les participants. « Ce sont des scénarios de sécurité qui n'ont jamais existé dans le monde réel, explique Wong. Comment entraîner un système contre quelque chose pour lequel il n'existe pas de grands jeux de données ? C'est un défi majeur. »

La plateforme permet aux équipes de construire des scénarios directement dans le navigateur, à partir d'incidents passés, de normes de sécurité et de journaux de robots, sans nécessiter d'expertise en simulation. Le système fait passer le robot à travers des milliers de variations avec des mouvements humains réalistes et réactifs, et mesure ses performances de sécurité.

Chaque mise à jour logicielle et chaque nouvel environnement pouvant introduire de nouveaux risques, les équipes relancent les tests en continu, et non plus une seule fois avant le lancement. Résultat : un historique complet de sécurité, dont répondent les ingénieurs, les spécialistes de la sécurité et les responsables opérationnels.

La plateforme fonctionne avec différents types de robotique :

• bras robotisés (arms)
• humanoïdes
• robots mobiles
• autres types

Wong souligne que l'utilisation de la simulation pour la sécurité exige de nouvelles approches : « La différence se situe dans les détails et la fonctionnalité. Il faut comprendre les critères de test pour la sécurité. Il existe différentes normes, mais elles restent incomplètes. Il existe aussi différents types d'évaluation des risques. »

Quand faire appel à SafeWorld

L'entreprise travaille déjà avec une cinquantaine de sociétés, dont les deux tiers sont des entreprises cotées en bourse. Wong recommande : « Si votre calendrier de déploiement est inférieur à un an, pensez déjà à la sécurité dès maintenant. S'il dépasse un an, il est peut-être encore trop tôt. »

L'approche diffère selon deux catégories d'entreprises de robotique IA. La première : « Apporter l'IA aux robots » — des entreprises qui partent d'une robotique complexe déjà existante et y ajoutent de l'IA. Exemple : Caterpillar. Pour elles, la sécurité est critique dès le premier jour, puisque le matériel fonctionne déjà dans le monde réel.

La seconde : « Apporter les robots à l'IA » — des startups qui partent du logiciel. Pour elles, la question de la sécurité se pose plus tard, au moment du passage au monde réel, mais un travail préalable permet d'optimiser les processus.

Thomas Tang, CEO d'Anyware Robotics (l'un des clients de la plateforme) : « La sécurité est le socle d'Anyware Robotics depuis le premier jour. Des outils de simulation avancés comme SafeWorld nous donnent un moyen scalable de tester des scénarios complexes, de renforcer nos processus de sécurité et de mieux préparer nos robots à un déploiement en conditions réelles. »

Plans de développement

SafeWorld compte utiliser ce financement pour :

• approfondir son déploiement auprès des entreprises
• étoffer son équipe
• promouvoir la recherche en sécurité à l'échelle du secteur
• financer et faire connaître des travaux de recherche
• soutenir des projets open source à la pointe de la sécurité de l'IA

Wong et Ding s'accordent sur le fait que des tiers contribuent à instaurer la confiance. Wong : « Il y a la dimension technique de la sécurité, et il y a la dimension de la confiance — les deux sont nécessaires pour déployer ces robots. La confiance, c'est la gestion des parties prenantes et l'approbation en matière de sécurité. »

Ding ajoute : « C'est un problème de déploiement. Avoir une entreprise tierce qui travaille sur ce sujet est nécessaire pour gagner la confiance, pas seulement d'une entreprise, mais de tout un secteur. »